本地跑 Qwen3-Flash-Next 写代码:90GB 量化权重,千万 token 后预填充成瓶颈
intermundia · reddit · 2026-10-19
一位开发者分享了本地长编码会话的部署实践:用 LM Studio 部署量化版 Qwen 3 Flash Next(权重约 90GB),配合自制脚本来管理内存和长上下文,整套环境基于定制的 deepseek harness 0.2.1-alpha.1。
他的体验:模型代码能力不错,但「思考」倾向极强,会不断自我怀疑、反复权衡,而思考模式似乎只有开/关两档,无法调低强度;另外当会话累计摄入 token 达到 700-800 万时,prefill 速度变成明显瓶颈。他在帖中求教:有没有人找到办法把这个模型的思考强度调低。
「编程与Agent」频道最新
- 开源 3DGS 工具 LichtFeld Studio:本地训练编辑渲染一条龙 — janusch_patas · 2026-10-19
- 开发者盛赞 Opus 5.5 写代码:像高智商朋友从不烦你 — marclou · 2026-10-19
- Jev 创始人发布 harness 工程 PDF:号称快 200 倍、便宜 400 倍 — blaizedsouza · 2026-10-19
- 用 Claude + Althea MCP 搭文献综述工作流:从读论文到 Overleaf 成稿 — hugo_larochelle · 2026-10-19
- 开源工具 Headroom 压缩上下文,编码 agent 省 20% token — headroomlabs-ai · 2026-10-19
- 开源项目 os-taxonomy 单日涨 427 星,累计破 5800 — withmarbleapp · 2026-10-19