Epoch 审计 15 个主流 AI 基准：4 个合格、9 个有缺陷
iamrobotbear · x · 2026-09-18
- Epoch AI 推出新项目 Benchmark Reviews，对 AI 基准测试进行系统性审计，首批覆盖 15 个基准：4 个 Verified（通过审计）、9 个 Flawed（存在缺陷）、2 个信息不足无法评审。
- Ethan Mollick 转发评论称这揭示了当前基准测试现状之糟——许多我们熟悉和喜爱的基准其实很不可靠。
- 该项目为社区提供了对常用 benchmark 质量的独立核查参考。
所属事件:Epoch AI 首批审计 15 个基准：9 个有缺陷(22 条相关)→
「模型」频道最新
- shadcn 谈 Opus：代码「品味」无法靠短期 benchmark 验证 — shadcn · 2026-11-04
- 用户吐槽 Claude「Ultrafast」模式：限额度烧得快 8 倍，不如推出省额度的 flex 速度档 — Lucky_Creme_5208 · 2026-11-04
- OpenAI 撤销 Codex 逆向工程禁令,与 Anthropic 安全路线渐行渐远 — AccBalanced · 2026-11-04
- Haiku 也能做出 Opus 级动画?作者实测称看不出明显差距 — Lazar988 · 2026-11-04
- Mistral Large 4 实测：133 个 agent 挖出并修复 Django CVE 漏洞 — MistralAI · 2026-11-04
- 谷歌联合 Mercor 发布工程基准 PLE,85 项任务全部前沿模型低于 50% — teortaxesTex · 2026-11-04