Kokotajlo 提 AI 2040 Plan A：先暂停换安全窗口
Machine Learning Street Talk · youtube · 2026-09-08
Machine Learning Street Talk 邀请 AI Futures Project 的 Daniel Kokotajlo 与 Thomas Larsen 讨论其新方案「AI 2040: Plan A」——在 AI 超越人类控制前主动放慢发展以换取时间。
要点：
- 回顾 AI 2027 的预测局限，以及为何怀疑论者正在改变看法
- 当 AI 能自动化研究、经济可脱离人类劳动者运转时会发生什么
- Plan A 主张先暂停、建设安全基础设施，再谨慎发展到「仍可被可靠控制的最强 AI」
- 辨析「控制」与「对齐」的区别：控制只能买时间，不能替代对齐
- 主张 AI 研究应公共化，并讨论中美能否协同执行放缓
- 结尾谈何种证据会改变他们的预测，以及「AI 是不是普通技术」的分歧
所属事件:AI 2027团队发布AI 2040 Plan A乐观方案(3 条相关)→
「漫话AGI」频道最新
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- Replit CEO 称 AI 让软件事实上开源，Aakash Gupta 复盘还剩哪些护城河 — aakashgupta · 2026-10-27
- 读懂AI意识之争:先分清对方站在哪种立场 — msharmas · 2026-10-27
- 功能主义视角：意识只是大脑的计算，硅片复现同样功能即得同样结果 — msharmas · 2026-10-27
- iPhone 新壳狂揽 8.5 万条评价：丰饶时代的万物皆假 — tekbog · 2026-10-27
- AI 能否有意识取决于你如何定义：理解意识的五种理论框架 — msharmas · 2026-10-27