小模型靠烧推理Token刷分, effort拉满与最低差距悬殊

triclavian · reddit · 2026-11-19

Reddit 用户提出「小模型味儿」(small model smell)概念:小模型能在评测上以小搏大,但代价是烧掉大量推理 token;一旦把思考力度调低——或订阅服务在后台悄悄限制思考——回答质量会断崖式下滑。

作者用「最高 effort 的 AA 得分 ÷ 最低 effort 得分」衡量各模型的「小模型味」:Astra、Fable、Carbon 表现最接近大模型;而 Luna 的得分波动最为惊人,不过它的 Low 档 token 消耗也远低于 Haiku 的 Low 档。作者承认这不是完美指标,但结果颇有启发:选小模型时不能只看榜单高分,还要看它在低算力档位下的稳定性。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →