本地跑 Qwen3-Flash-Next 写代码:90GB 量化权重,千万 token 后预填充成瓶颈

intermundia · reddit · 2026-10-19

一位开发者分享了本地长编码会话的部署实践:用 LM Studio 部署量化版 Qwen 3 Flash Next(权重约 90GB),配合自制脚本来管理内存和长上下文,整套环境基于定制的 deepseek harness 0.2.1-alpha.1。

他的体验:模型代码能力不错,但「思考」倾向极强,会不断自我怀疑、反复权衡,而思考模式似乎只有开/关两档,无法调低强度;另外当会话累计摄入 token 达到 700-800 万时,prefill 速度变成明显瓶颈。他在帖中求教:有没有人找到办法把这个模型的思考强度调低。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →