Kokotajlo 等发布 AI 2040「Plan A」放缓方案,遭逐条质疑
gordic_aleksa · x · 2026-09-13
AI 2027 作者团队（Kokotajlo 等）发布新报告《AI 2040》，提出以「Plan A」放缓超级智能研发。Gordic Aleksa 列出其成立所需的关键假设并给出初步评价：
Plan A 的核心假设
- 美中合作放缓 AI 开发，申报几乎所有大型数据中心/算力，检查精度需达到对方隐藏算力 <1%；
- 暂停新训练（推理可继续），数据中心加装「仅推理」验证硬件实现低信任环境下的互查；
- 「全面研究透明化」：几乎所有前沿研究（算法、代码、prompt、实验结果）公开，权重与部分训练数据受保护；
- 「相互确保算力毁灭」：美国数据中心建在蒙古、中国的建在加拿大，违约即可被摧毁。
Aleksa 的质疑
- 整体是一串低概率事件：美中达到此级别协调缺乏历史先例；假设蒙古/加拿大愿意承担可被炸毁的战略数据中心不现实；
- 未考虑美国及全球经济已押注巨额 capex 回报，在此政策下的冲击；
- 批评讨论圈围绕「失业/永恒霸权/全员死亡」三种结局的叙事 mode collapse，拒绝这是仅有的可能。
所属事件:AI 2040报告提出超级智能放缓Plan A,方案遭逐条质疑(4 条相关)→
「漫话AGI」频道最新
- 网友晒图担忧 AI「反乌托邦分叉」，列开源 AI 面临的五大悬念 — EddyVGG · 2026-09-13
- a16z 的 Andreessen 重提「浸信会与私酒贩」，剖析 AI 监管同盟 — illscience · 2026-09-13
- tszzl 预测重大事故后开源模型将被禁,Beff 反对引热议 — beffjezos · 2026-09-13
- 「行动中的笨蛋胜过静止的天才」：前 DeepMind 工程师谈深度学习精神内核 — yacinelearning · 2026-09-13
- AI 风险态度光谱梗:比我不怕的是外行,比我怕的是 EA 脑 — shakoistsLog · 2026-09-13
- sokrypton 谈 AI 科学悖论：AI 还提不出下一个问题 — sokrypton · 2026-09-13