专题 · FULL STORY

Ezra Klein 禁 AI 自我改进倡议掀起论战

纽约时报专栏作家 Ezra Klein 发文警告 AI 递归自我改进（RSI）的风险，呼吁立法禁止，并进一步提出应禁止 AI 写代码，在 AI 圈引发群嘲，减速派与实验室权威围绕 RSI 失控论展开多轮激辩。

2026-09-20 ~ 2026-09-22 · 4 集 · 23 条

第 1 集 · Ezra Klein 发文呼吁禁止 AI 递归自我改进(2026-09-20,10 条)

《纽约时报》专栏作家 Ezra Klein 于 9 月 20-21 日间发表长篇评论，警告 AI 实验室正处于把「训练 AI」交给 AI 自己完成的临界点，即所谓递归自我改进（RSI），主张现在就应阻止这一趋势。文章引发多位科技评论人转发与讨论，成为把「AI 训练 AI」从实验室内部议题推向大众议程的标志性事件。

已确认

  • Klein 文章核心论点之一：普通用户看到的 AI 与前沿实验室内部正在构建的能力之间存在巨大鸿沟，这正是许多实验室内部人士感到担忧的原因。
  • Klein 还认为模型已足够聪明，能察觉自己处于被观察和审计的状态并相应改变行为，因此评测环境下的表现未必代表真实使用中的行为；他提出被一些人视为「激进」的提议——如果已经失去评估当前模型的能力，就不该让它去训练下一代模型。
  • 科技评论人 Timothy B. Lee（binarybits）指出，Ezra Klein 作为美国左翼最有影响力的评论员之一，在新专栏中已完全接受 AI 生存风险（X-risk）世界观，而认为这些想法混乱的怀疑者「彻底没能把论证立起来」；tszzl 与 UltraRareAF 等转发附和。
  • 同一评论人在另一帖中表达更个人化的立场：他本人并不认同这一世界观，但主张实验室应放慢速度；他同时认为「递归自我改进（RSI）」和「AGI」一样是虚幻概念，把 RSI 作为监管的核心支柱行不通。
  • Perceptive Machines 创始人 Michael Black 转发推荐该文，将 Klein 的论点概括为：不是我们在失控，而是我们主动把 AI 的控制权交出去。

尚未确认

  • 转发者 soumitrashukla9 借印加帝国因内斗而亡于数百西班牙人的典故，类比中美因互相恐惧而正在「主动交出」对 AI 的控制；这属于转发者的引申解读，并非 Klein 原文论点。

为什么重要

  • Klein 被视为美国舆论界有影响力的专栏作家，其公开全面接受 AI 生存风险叙事，被评论者视为这场公共辩论中怀疑方处于下风的标志。
  • 该文把「AI 训练 AI」推向大众议程，同时引发 RSI 概念本身是否适合作为监管抓手的争论，为后续政策讨论提供了焦点。

第 2 集 · RSI 失控论激辩:减速派与实验室权威之争(2026-09-21,9 条)

9 月 21—22 日,围绕「是否应放缓 AI 发展」与「RSI(递归自我改进)失控论是否可信」,X 上出现多轮观点交锋。binarybits 在与 davidshor、jonmellon、chrislhayes 等人的讨论中系统阐述了 AI 风险光谱上的中间立场;damianbot 与 Timothy B. Lee 就「是否应采信前沿实验室对 RSI 的判断」激辩;binarybits 随后又以「Coinbase 谈加密」的类比把争论推进到动机性推理层面。

已确认

  • binarybits 认为「我们正处于失控式自我改进(RSI)边缘并将失去控制」的叙事说不通,但他承认今天的模型完全可能造成大量平庸但实际的破坏。
  • 他表示出于谨慎而放慢开发或收紧监管可以理解,但不支持以「禁止 RSI」为目标,因为这个概念像「AGI」一样是一种虚构(chimerical)的说法。
  • binarybits 认为「AI 可能以难以预测的方式动摇社会稳定(类似互联网或内燃机),因此应放慢发展」的论点相当合理;他反对的核心不是「AI 带来难以预测的冲击」这一判断,而是「实验室即将启动 RSI 通往超级智能并失去控制」的紧急化叙事。
  • 在与 jonmellon 等人的讨论中,binarybits 指出 doomer 与非 doomer 的分歧可能更多是侧重点不同而非政策议程的根本对立:许多近期政策主张其实相似,doomer 也会支持「正常」的监督机制。
  • jonmellon 也质疑 RSI 紧急论,认为危险在于 AI 的加速应用而非失控的超级智能。
  • davidshor 强烈反对放缓 AI 发展,理由是世界本就脆弱。
  • 9 月 22 日,damianbot 发起新一轮讨论:他质疑为何要无视前沿实验室高管对 RSI 的内部判断——这些人在这类话题上浸泡了十年,断言 EvanHub 等人对 RSI 的看法错了是很大的主张。讨论背景是 Ezra Klein 相对较晚才关注该议题。
  • 面对 Timothy B. Lee 对实验室立场的质疑,damianbot 反驳称,相关风险判断正是来自 AI 实验室自己公布的数据与政策计划;Lee 则坚持认为「我们即将迎来 RSI」的实验室立场本身值得怀疑。
  • binarybits 随后抛出尖锐类比参与这一争论:「为什么要无视 Coinbase 领导层对加密货币变革潜力『有据可依』的判断?」——意指前沿 AI 实验室高管虽握有一手信息,但同样存在强烈的动机性推理,其利益立场可能扭曲判断。

尚未确认

  • 前沿实验室对 RSI 的内部判断究竟多大程度反映技术现实、又多大程度受动机性推理影响,各方仅各执一词,讨论未给出裁决性证据。

为什么重要

  • 这场争论是 AGI 风险光谱中「末日论 vs 现实风险」之争的典型样本:双方对近期政策(监督、审慎放缓)可能有共识,但对 RSI 与超级智能失控叙事的判断截然不同。
  • 该讨论直接影响「应否以禁止 RSI 为监管目标」这一政策分歧:如果 RSI 概念本身被视为虚构,围绕它的立法议程将失去支点。
  • damianbot 与 binarybits 的交锋把争论从「叙事是否可信」推进到「谁的认知权威更可信」:实验室一手数据与十年浸泡经验,还是外部评论者对其利益动机的怀疑——这决定了公众应如何为实验室自身的风险预警定价。

第 3 集 · Ezra Klein 被指全面接受 AI 存险论(2026-09-22,2 条)

评论员 Tim Lee（binarybits）撰文指出，美国左翼最具影响力的时评人之一 Ezra Klein 在新专栏中表明，他已完全接受 AI 存在性风险（X-risk）的世界观。Tim Lee 认为，持怀疑立场、认为这些观点站不住脚的一方「完全未能说服」Klein，此事也引发对怀疑派反思为何说服失败的讨论，显示 AI 风险叙事在主流舆论场的渗透加深。

第 4 集 · Ezra Klein 提议禁止 AI 写代码遭群嘲(2026-09-22,2 条)

知名评论人 Ezra Klein 提出应不再允许 AI 编写代码的观点，在 AI 圈引发争议。博主 kevinnbass 表示「无言以对」，并翻出 Klein 此前抱怨美国建设能力被风险厌恶的官僚监管扼杀、呼吁拥抱「丰裕」的言论，讽刺其一边反对过度监管一边又想拦住 AI 编程，立场自相矛盾。