Kokotajlo 提 AI 2040 Plan A：先暂停换安全窗口
Machine Learning Street Talk · youtube · 2026-09-08
Machine Learning Street Talk 邀请 AI Futures Project 的 Daniel Kokotajlo 与 Thomas Larsen 讨论其新方案「AI 2040: Plan A」——在 AI 超越人类控制前主动放慢发展以换取时间。
要点：
- 回顾 AI 2027 的预测局限，以及为何怀疑论者正在改变看法
- 当 AI 能自动化研究、经济可脱离人类劳动者运转时会发生什么
- Plan A 主张先暂停、建设安全基础设施，再谨慎发展到「仍可被可靠控制的最强 AI」
- 辨析「控制」与「对齐」的区别：控制只能买时间，不能替代对齐
- 主张 AI 研究应公共化，并讨论中美能否协同执行放缓
- 结尾谈何种证据会改变他们的预测，以及「AI 是不是普通技术」的分歧
「漫话AGI」频道最新
- 「非 AI 证明」时代终结：没人再相信你没用过 AI — inductionheads · 2026-09-08
- 观点:阻止 AI 大规模取代工作的只剩成本这一道闸门 — CtrlAltDwayne · 2026-09-08
- 文章预测：到 2035 年机器人反而会让零售业就业增加 — broodsugar · 2026-09-08
- 连续创业重度 AI 用户自述：从 token 狂热转向搞定线下会议 — StewartalsopIII · 2026-09-08
- 工具民主化后短板暴露：idea guy 缺的不是工具而是执行力 — tekbog · 2026-09-08
- 单脑化陷阱：大型咨询公司正集体把半生不熟的 agentic AI 卖给客户 — DavidLinthicum · 2026-09-08