用 benchmark 证明模型强弱不靠谱
iruletheworldmo · x · 2026-07-19
帖子借一张 **Harvey LAB-AA all-pass rate** 图来说明：**benchmark 本身并不能可靠反映真实能力**。 图中展示了 24/34 个模型在该指标上的通过率排名，最高的是 **Kimi k3（26.7%）**，其后还有 **Claude 4.5、Grok 4.5、Muse、Claude Opus 4.1** 等；而不少模型接近 0%。作者想表达的是：这种基准结果很容易被任务设计、评测口径和模型适配方式左右，因此“用某个 benchmark 证明模型强弱”往往并不稳妥。
「模型」频道最新
- 前沿模型已超越人类数学能力 — littmath · 2026-07-20
- 中国模型在 OpenRouter 上领先 — JOBhakdi · 2026-07-20
- AI解RH会被区别对待的段子 — tak3sh8 · 2026-07-20
- 泄露称 GLM-5.5 可能8月发布 — teortaxesTex · 2026-07-20
- Gemini 出现奇怪崩坏 — windowssandbox · 2026-07-20
- Hermes 发布桌面与路由大更新 — Teknium · 2026-07-20