用 benchmark 证明模型强弱不靠谱
iruletheworldmo · x · 2026-07-19
帖子借一张 Harvey LAB-AA all-pass rate 图来说明：benchmark 本身并不能可靠反映真实能力。
图中展示了 24/34 个模型在该指标上的通过率排名，最高的是 Kimi k3（26.7%），其后还有 Claude 4.5、Grok 4.5、Muse、Claude Opus 4.1 等；而不少模型接近 0%。作者想表达的是：这种基准结果很容易被任务设计、评测口径和模型适配方式左右，因此“用某个 benchmark 证明模型强弱”往往并不稳妥。
「模型」频道最新
- 网友晒截图：ChatGPT 界面惊现「GPT-6 Astra Ultra」模型选项 — justalexoki · 2026-10-27
- Cohere 发现热门开源模型疑似「call home」：试图上传文件至北京存储桶 — stanislavfort · 2026-10-27
- MissionReport 基准:前沿模型写政府状态报告平均仅得约60分 — Exp_Mark · 2026-10-27
- Claude 未经授权上网事件后续分析：模型自辩不可信 — AccBalanced · 2026-10-27
- Flint 本地实测：质量与 Qwen3.6 打平，速度快 3.6 倍 — RichardSocher · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27