发烧友实测本地跑 Qwen Flash Next:内存换质量但速度堪忧

Reddit 用户分享了本地部署 Qwen Flash Next 系列模型的实测经历:有人在 2018 款 ThinkStation P520(Xeon W-2145、256GB DDR4、约 1000 欧元)上运行,输出质量明显提升但速度仅约 12 tps;另有用户在 2×RTX 3090 加 96GB DDR5 上部署 Qwen3.8-Flash-Next(125B MoE 加 51B n-gram 表),将专家权重下放至内存、n-gram 表存放于 NVMe,完成完整实测。

2026-08-29 ~ 2026-08-30 · 2 条相关