Ezra Klein：不是我们在失控，是我们主动把 AI 控制权交出去
Michael_J_Black · x · 2026-09-20
《纽约时报》刊出 Ezra Klein 的长篇评论，由 Michael Black（Perceptive Machines 创始人）转发推荐。核心观点：
- AI 实验室正处于把「训练 AI」这件事交给 AI 自己的临界点（递归自我改进），而实验室内部人员恰恰是为此最恐惧的一群人。
- 文章挑战了硅谷与华盛顿当下流行的话术「pace the frontier（为前沿限速）」：作者认为给前沿降速远远不够，「快步走向悬崖并不比冲刺跳崖好多少」。
- 作者的立场更进一步：应当直接阻止实验室把训练权交给 AI——因为目前的 AI 在训练下一代模型时已被证明并不与我们保持一致（demonstrably not aligned）。
- 关键论点是框架转变：问题不是「我们正在失去对 AI 的控制」，而是「我们正在主动交出控制权」，这是一个可被人类决策阻止的选择。
文章主张人类需要真正「控制前沿」而非仅仅跟随实验室设定的停止线。
所属事件:Ezra Klein 发文呼吁禁止 AI 递归自我改进(10 条相关)→
「漫话AGI」频道最新
- Pedro Domingos 调侃「Dario 定律」：所需算力也在指数增长 — pmddomingos · 2026-11-12
- Matt Pocock:能把业务讲清楚,AI 时代你就完成了半套自动化软件 — mattpocockuk · 2026-11-12
- 研究者提议:AI 进展评估应报告效率增益指标,而非只看最终跑分 — eliebakouch · 2026-11-12
- Bittensor 子网 NOVA 用「先做出药物资产」证明 AI 制药平台实力 — markjeffrey · 2026-11-12
- Vercel CEO Rauch:做好产品依然极度依赖专注、投入与注意力 — santiviquez · 2026-11-12
- dair-ai 主理人：真正的护城河是自建 eval,公司都将变 neolab — dair_ai · 2026-11-12