Palisade 研究员呼吁复活 METR 时间跨度图:别只盯 40 个 benchmark
JeffLadish · x · 2026-11-06
Palisade Research 的 Jeff Ladish 引用访谈表示,衡量 AI 进步的真正标准是 agent 能否实际完成工作,而不是堆砌 40 个 benchmark。他回忆早期 METR 让软件工程师执行长时程任务来测能力的做法,并称最大的一次能力跃升来自 Fable 模型发布前后——他从偶尔用 agent 变成每天用。
他进一步呼吁 METR 或其他机构恢复 METR 任务时间跨度(time horizon)估算图,覆盖新模型。他承认数周级别的长时程任务难以测量,但认为数周长度的任务肯定可以想办法测出来。
「模型」频道最新
- 网友实测:Claude Opus 4.8「固执到连自己的系统都拦不住」 — repligate · 2026-11-06
- Miles Brundage 一句话点评:Inkling 2 Small 不错 — Miles_Brundage · 2026-11-06
- 用户观察:Claude 用官方 system prompt 反而不如空 system prompt — repligate · 2026-11-06
- Palisade 研究员:模型样样变强但仍不幽默,charisma 成短板 — JeffLadish · 2026-11-06
- 爆料 DM 称 Qwen4 将发布,leaker 戏谑时间点全靠猜 — bclavie · 2026-11-06
- Artificial Analysis 端点准确度指数 v1.1:近1/4推理端点低于参考基准 — ArtificialAnlys · 2026-11-06