评测指标也能做文章
JJitsev · x · 2026-07-13
这条吐槽“benchmark 的艺术”就是：发明一个没人用的分数体系，就能把自己的模型包装成冠军。
帖文点名 SOOFI 基本是在复现 open Nemotron 3 的评测思路，但它用的 capability index 会让 Qwen 3 32B 看起来比一些更大的、但指标意义不大的模型还弱。作者借此批评这种评测设计会误导排名。
所属事件:Nemotron模型复现与定制评测引争议(4 条相关)→
「模型」频道最新
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11