Qwen3.8 Flash 本地实测:Ngram 常开让 token 消耗暴涨 3 倍

esw123 · reddit · 2026-09-03

楼主在 Unsloth Studio 中对比 Qwen3.8 Flash Next 的 MTP 与 MTP+Ngram 设置:只开 MTP 时吞吐(tg)提升约 10%,但额外思考导致 token 用量从 20K 飙到 66K;作者困惑 Ngram 是否应该为智力表现常开,向社区求证取舍。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →