研究者质疑 METR 评测:RSI 数字易刷分且难代表真实能力
gleech · x · 2026-11-06
Siddarth 转发并质疑 METR 关于 AI 驱动研发加速的结论:目前我们只知道某个 RSI(研发自促进)数字在上涨,但这些数字到底是什么、有多容易被 benchmark 刷分、能在多大程度上代表真实能力提升,都缺乏信息。他还指出,很难把「AI 驱动的研发加速」与「单纯堆更多预训练算力 + RL 带来的收益」区分开。作者认为 METR 在约束条件下已尽力,但当前呈现的信息实际用处不大。
「模型」频道最新
- METR 新能力曲线无人能恰当反应:AECI 泄露基准仍是老一套弱题 — gleech · 2026-11-06
- METR 新图争议:内部证据不算科学证据但仍是证据 — gleech · 2026-11-06
- 每日简报:GPT-6.2 曝光、Claude 推理财助手、METR 称模型进度加速 1.9 倍 — testingcatalog · 2026-11-06
- METR 报告研究员引语其实偏乐观:Opus 4.5 编码+加速迭代 — gleech · 2026-11-06
- Epoch AI 剖析 OSWorld:任务简单、不稳定,GUI 能力测不准 — gleech · 2026-11-06
- gleech:三个烂基准解释不掉加速,但 AECI 其余组件堪忧 — gleech · 2026-11-06