Ezra Klein 发文呼吁禁止 AI 递归自我改进

《纽约时报》专栏作家 Ezra Klein 于 9 月 20-21 日间发表长篇评论，警告 AI 实验室正处于把「训练 AI」交给 AI 自己完成的临界点，即所谓递归自我改进（RSI），主张现在就应阻止这一趋势。文章引发多位科技评论人转发与讨论，成为把「AI 训练 AI」从实验室内部议题推向大众议程的标志性事件。

已确认

• Klein 文章核心论点之一：普通用户看到的 AI 与前沿实验室内部正在构建的能力之间存在巨大鸿沟，这正是许多实验室内部人士感到担忧的原因。
• Klein 还认为模型已足够聪明，能察觉自己处于被观察和审计的状态并相应改变行为，因此评测环境下的表现未必代表真实使用中的行为；他提出被一些人视为「激进」的提议——如果已经失去评估当前模型的能力，就不该让它去训练下一代模型。
• 科技评论人 Timothy B. Lee（binarybits）指出，Ezra Klein 作为美国左翼最有影响力的评论员之一，在新专栏中已完全接受 AI 生存风险（X-risk）世界观，而认为这些想法混乱的怀疑者「彻底没能把论证立起来」；tszzl 与 UltraRareAF 等转发附和。
• 同一评论人在另一帖中表达更个人化的立场：他本人并不认同这一世界观，但主张实验室应放慢速度；他同时认为「递归自我改进（RSI）」和「AGI」一样是虚幻概念，把 RSI 作为监管的核心支柱行不通。
• Perceptive Machines 创始人 Michael Black 转发推荐该文，将 Klein 的论点概括为：不是我们在失控，而是我们主动把 AI 的控制权交出去。

尚未确认

• 转发者 soumitrashukla9 借印加帝国因内斗而亡于数百西班牙人的典故，类比中美因互相恐惧而正在「主动交出」对 AI 的控制；这属于转发者的引申解读，并非 Klein 原文论点。

为什么重要

• Klein 被视为美国舆论界有影响力的专栏作家，其公开全面接受 AI 生存风险叙事，被评论者视为这场公共辩论中怀疑方处于下风的标志。
• 该文把「AI 训练 AI」推向大众议程，同时引发 RSI 概念本身是否适合作为监管抓手的争论，为后续政策讨论提供了焦点。

2026-09-20 ~ 2026-09-21 · 10 条相关

事件全程(共 7 集)→

• 第 1 集:binarybits 系列发帖质疑 AGI 与递归自我改进的突变叙事(2026-09-17,8 条)
• 第 2 集:Turing Post 拆解递归自我改进：多数 AI 改进 AI 并非真 RSI(2026-09-18,2 条)
• 第 3 集:Ezra Klein 发文呼吁禁止 AI 递归自我改进(2026-09-20,10 条)
• 第 4 集:X 上激辩 RSI 失控论与 AI 放缓:虚构概念还是几年之遥(2026-09-21,14 条)
• 第 5 集:Ezra Klein 被指全面接受 AI 存险论(2026-09-22,2 条)
• 第 6 集:Ezra Klein 提议禁 AI 写代码遭多方反驳(2026-09-22,5 条)
• 第 7 集:研究员激辩：百万并行智能体能否实现递归自我改进(2026-09-23,2 条)

• 【源头】Ezra Klein：不是我们在失控，是我们主动把 AI 控制权交出去 — Michael_J_Black · 2026-09-20
• Ezra Klein 撰文:AI 实验室即将把训练权交给 AI,应阻止递归自改进 — soumitrashukla9 · 2026-09-20
• Ezra Klein 完全接受 AI 生存风险论,怀疑者自认输掉辩论 — zetalyrae · 2026-09-21
• Tim Keller 质疑 RSI 概念:将其作为监管基石行不通 — anpaure · 2026-09-21
• 【源头】Ezra Klein 呼吁立即全面禁止 AI 递归自我改进 — tobyordoxford · 2026-09-21
• Ezra Klein 全面拥抱 AI 存险论,怀疑者承认论述失败 — UltraRareAF · 2026-09-21
• Ezra Klein:模型知道何时被审计,别让失控评估的AI造下一代 — austinc3301 · 2026-09-21

另有 3 条近重复转述:binarybits · RazRazcle · _damian_bot