用 benchmark 证明模型强弱不靠谱
iruletheworldmo · x · 2026-07-19
帖子借一张 Harvey LAB-AA all-pass rate 图来说明：benchmark 本身并不能可靠反映真实能力。
图中展示了 24/34 个模型在该指标上的通过率排名，最高的是 Kimi k3（26.7%），其后还有 Claude 4.5、Grok 4.5、Muse、Claude Opus 4.1 等；而不少模型接近 0%。作者想表达的是：这种基准结果很容易被任务设计、评测口径和模型适配方式左右，因此“用某个 benchmark 证明模型强弱”往往并不稳妥。
「模型」频道最新
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11