「每百万 token 价格」是谎言:思考更久的便宜模型并不便宜
airesearch12 · x · 2026-09-18
作者推出 Benchmark Heaven 评测思路,核心观点是单看每百万 token 定价会被误导——一个单价便宜但推理时间翻倍的模型,实际完成任务的成本可能更高。该基准按「每个实际任务的成本」计价,并纳入供应商筛选、输入输出 token、推理长度与缓存等因素,结论可能与榜单印象大相径庭。
作者还提出 Benchmaxxing 分数用于识别模型是否在测试集上训练:引用率高的公开基准上表现极强(99%),而在无法针对训练的新基准或私有基准上明显偏弱,即典型的「刷榜」特征。
所属事件:Benchmark Heaven 开源上线:聚合 800 模型跑分与真实任务成本(12 条相关)→
「模型」频道最新
- 同一个任务两种「质感」:RL 过拟合模型与通用智能的手感差异 — theteknosaur · 2026-11-02
- LightOnOCR-3 发布:单一模型搞定转录、版面与图表解析 — IgorCarron · 2026-11-02
- NVIDIA Kumo 家族拆解:四款表格基础模型各管一类结构化数据 — pandeyparul · 2026-11-02
- SemiAnalysis:选模型别忽视安全分类器,Meta 网络安全模型居首 — ThomasScialom · 2026-11-02
- Reddit 用户盛赞 DeepSeek V4.1 Flash 1017:快、稳、便宜到可弃闭源模型 — _bachrc · 2026-11-02
- 本地量化模型对决 Claude:9 个真实 bug 修复实测,量化掉分更掉时间 — FeydRowan · 2026-11-02