Qwen3.8 Flash 本地实测:Ngram 常开让 token 消耗暴涨 3 倍
esw123 · reddit · 2026-09-03
楼主在 Unsloth Studio 中对比 Qwen3.8 Flash Next 的 MTP 与 MTP+Ngram 设置:只开 MTP 时吞吐(tg)提升约 10%,但额外思考导致 token 用量从 20K 飙到 66K;作者困惑 Ngram 是否应该为智力表现常开,向社区求证取舍。
「Infra」频道最新
- 博通预告 AI 营收 FY2027 翻倍至 1150 亿美元,FY2028 再翻倍到 2300 亿 — BenBajarin · 2026-09-03
- Perplexity 开源本地推理引擎 Lily,专为 Apple Silicon 优化 Qwen3.6 — inductionheads · 2026-09-03
- Nvidia 市值占标普 500 约 8%,达美国 GDP 的 16.3% — ivan_bezdomny · 2026-09-03
- 博通 Q3 AI 芯片营收 167 亿美元同比暴涨 221%,Q4 指引 217 亿 — Beth_Kindig · 2026-09-03
- 评测称 Claude Fable 5.1 将 agent 失败率砍半,单次正确答案成本 2.46 美元 — ryanshrout · 2026-09-03
- 安全公司 Bitbison 深度复盘 eBPF 性能陷阱:hook、CO-RE 与 ring buffer 实践 — tianyin_xu · 2026-09-03