Qwen3.8 Flash Next 本地部署参数与性能测试分享
Motor_Ad16 · reddit · 2026-08-28
一位用户分享了在双 3090 显卡和 Threadripper Pro 3955 平台上运行 Qwen3.8 Flash Next 的具体参数配置。使用 Llama CPP 在 Ubuntu VM 中部署,开启了 flash-attn,并配置了 batch-size、ctx-size 等参数。实测结果显示:文本生成速度(TG)为 15-19 t/s,处理速度(PP)达到 550 t/s。作者询问是否有进一步优化的空间。
「Infra」频道最新
- RTX 3060 12GB:本地 AI 性价比之王实测 — I_Play_Zed · 2026-08-28
- Qwen3.8-Flash 开源:卷死 DeepSeek,4090 跑 1M 上下文 — 量子位 · 2026-08-28
- 用 Langfuse 轨迹分析自动改进 Agent 工作流 — NielsRogge · 2026-08-28
- 英伟达助筹 5000 亿美元基建,不仅卖铲子还开矿 — VraserX · 2026-08-28
- 美光:同容量 HBM 晶圆面积是 DDR5 三倍 — FullstackSensei · 2026-08-28
- 英伟达网络业务收入占比达五分之一,成数据中心核心 — thoefler · 2026-08-28