质疑AI2040的末日推演

repligate · x · 2026-07-13

这条是在质疑一篇 AI 2040 情景分析的论证方式，尤其是其借助 METR 的时间线图得出末日式结论的做法。

作者的核心疑问是：如果模型能力和自动化风险已经这么强，为什么放射科医生和程序员仍在工作，为什么咖啡机还没被自动化取代？他还指出，大厂内部已经让编码智能体拥有一定自治权，但并没有看到更多“小规模策划、reward hacking、失配”造成的实际损害。作者认为，这些缺口如果没有被认真解释，结论就应该更谨慎、更细腻，而不是直接滑向灾难叙事。