Qwen3.8 Flash Next 本地部署参数与性能测试分享

Motor_Ad16 · reddit · 2026-08-28

一位用户分享了在双 3090 显卡和 Threadripper Pro 3955 平台上运行 Qwen3.8 Flash Next 的具体参数配置。使用 Llama CPP 在 Ubuntu VM 中部署,开启了 flash-attn,并配置了 batch-size、ctx-size 等参数。实测结果显示:文本生成速度(TG)为 15-19 t/s,处理速度(PP)达到 550 t/s。作者询问是否有进一步优化的空间。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →