研究者反驳 Dwarkesh：定义并爬升 AGI 指标才是硬问题

dhadfieldmenell · x · 2026-11-15

Cindy Wu 反驳 Dwarkesh Patel 的 AGI 乐观预测，也押注其不会实现：爬升一个指标的前提是定义它，而如何定义出不被 Goodhart 化、不被 reward hacking 的好指标，正是造 AGI 的大部分难题（把模糊概念形式化为无法被钻空子的可优化对象）。即使定义好了，还需要真正扛起重任的数据与环境——他轻描淡写地说「AI 会自动搞定数据」回避了难点。此外，判断一项改动是否进入最终配方需要在大规模组合上做消融实验，改动多了算力成本会指数级膨胀。Hadfield-Menell 转发表示赞同。