专题 · FULL STORY

RSI已至？Dario言论引发AI圈激辩

Dario Amodei 在公开信中称递归自我改进（RSI）已经启动，多位研究者引证据反驳，Anthropic 与 OpenAI 随后罕见表态称某种形式的 RSI 已初步实现但尚处早期，Google 研究员亦从控制理论角度论证智能加速存在上限，争论持续发酵。

2026-09-12 ~ 2026-09-17 · 4 集 · 21 条

第 1 集 · Dario 称 RSI 已启动，多位研究者引证据反驳(2026-09-12,8 条)

9 月 12 日至 14 日，开发者社区围绕「递归自我改进（RSI）」是否已经到来展开集中争论。导火索是 Dario Amodei 在《Pacing AI》信中宣称 RSI 正在开始发生。多位研究者随即给出否定判断，认为现有系统卡与模型能力证据并不支持这一说法，真正值得优先关注的是 AI 的滥用风险。

已确认

  • Dario Amodei 在《Pacing AI》信中声称「RSI 已经开始」。Gary Marcus 转引 Ramez 的分析反驳：Dario 引用的博客文章，以及最新 Claude 和 ChatGPT 模型的 system card 都明确显示 RSI 并未发生，该论断经不起推敲。
  • tszzl 明确表示 RSI「根本还没来」：现在的模型并不能自主产出研究想法，只能在边际上帮忙跑实验，这与自主科研完全是两回事；即便 OpenAI/Anthropic 的私有 Claude 等模型可能更强，他也不认为 RSI 已实现。sebkrier 转发支持，称自己数月来一直坚持类似观点。
  • johncrickett 质疑「威胁来自 RSI」的说法：RSI 尚未实现，甚至可能永远无法实现；与此同时 AI 已经存在许多真实风险与滥用问题，应当优先面对这些。
  • mariofilhoml 补充了一条针对末日论者的论证：导致灭绝级别的 RSI 本身是一个极其远离分布的远期任务，而当前 LLM 即使在接近分布的任务上能力也有限，没有理由认为它们能突然完成如此遥远的跨越。
  • gerardsans 回应称，讨论 AI 炒作术语是徒劳的，RSI 与 AGI、ASI 一样是无意义的硅谷饭桌缩写，唯一作用是让投资者免于面对真实的技术问题；他认为不存在「自我」「递归」或「改进」，只有迭代优化或进化。
  • gerardsans 还从技术角度论证 RSI 是伪命题：软件不是平滑或无限的，代码满足规格后就完成了；AI 虽是概率性的但仍是软件，网络层、输入输出和参数一旦确定就定型；transformer 有容量上限，无法无限训练——继续灌数据只会导致灾难性遗忘。

为什么重要

  • 这场争论反映了开发者社区对 AI 叙事的分化：一派以系统卡证据、能力评估和分布外泛化论证为依据评估自主科研能力，另一派则主张把注意力从遥远或虚幻的 RSI/AGI 概念转向当下已存在的滥用与安全风险。
  • 头部实验室负责人（Dario）与外部研究者对同一证据（system card）的解读出现明显分歧，显示「RSI 已启动」更多是叙事判断而非实证结论。
  • mariofilhoml 的「分布距离」论证与 gerardsans 的工程论证（模型容量上限、灾难性遗忘）共同为「RSI 不可行/远未到来」的立场提供了具体视角，尽管这些论断本身在社区中亦有争议空间。

第 2 集 · OpenAI 与 Anthropic 罕见表态：递归自我改进已初步实现(2026-09-13,6 条)

本周，Anthropic 与 OpenAI 双方罕见地给出了迄今最明确的表态：某种形式的递归自我改进（RSI）已经初步实现，但听起来仍处于早期阶段。这一判断由 Ethan Mollick 率先指出，并与 Anthropic CEO Dario Amodei 的长文表态形成呼应，引发全行业对 RSI 的讨论。

已确认

  • Dario Amodei 表示，自今年夏天以来，AI 进步速度开始「急剧加快」，驱动因素是 AI 越来越多地参与到构建下一代 AI 的过程中，即「AI 正在造 AI」。
  • Ethan Mollick 认为 RSI 将带来 AI 能力的快速提升，率先实现 RSI 的公司可能取得难以逾越的领先优势。
  • Google DeepMind 首席战略官 Jasjeet Sekhon 在 Berkeley RDI 频道访谈中表示，当前 AI 基础设施的巨额投资，本质上是在为递归自我改进下赌注：一旦实现 RSI，回报可能极其巨大。

争议与冷静声音

  • Mollick 随后为 RSI 热潮泼冷水：对 RSI 的担忧可能被夸大。AI 能力可能受算力、架构等硬性上限约束；AI 驱动的研究本身也可能受限（例如发现问题价值的能力）；公司也未必能有效利用 AI 产出的研究成果。
  • Mollick 指出，即便 RSI 初步实现，也未必自动通向「智能爆炸」，能力提升路径可能存在多重上限。

为什么重要

  • 两家头部实验室同时暗示 RSI 初步实现，是行业罕见的一致表态，或预示 AI 能力提升进入新阶段。
  • 若 RSI 属实，率先突破的公司可能建立难以追赶的护城河，这也是巨额基建投资的底层逻辑。
  • 但 RSI 的实际效果仍受算力、架构与组织能力等多重约束，智能爆炸并非必然结论，后续需观察各家模型研发中 AI 参与度的实证数据。

第 3 集 · Google研究员称智能有速度上限：RSI无法无限加速(2026-09-13,5 条)

Google研究科学家Peyman Milanfar于9月13日发文《Intelligence Has a Speed Limit》，从控制理论视角对AI圈热议的递归自我改进（RSI）提出质疑，结论是RSI并非可以无限加速的魔法，任何自我改进的反馈回路都存在安全速度上限。该文随后被@NathanpmYoung、@ArtificialOther等账号转发讨论。

已确认

  • Milanfar的核心论点：AI圈常把RSI描述得近乎魔法——模型改进自己、变更聪明、再改进自己，循环加速；但从现实世界的控制工程视角看，算法变成真实可用系统的背后有诸多工程约束，这类自我改进受到限制。
  • 控制理论给出的反直觉结论：任何自我改进的反馈回路都有安全速度上限，过快会突发失稳。依据是小增益定理——反馈回路稳定的前提是各环节增益乘积小于1。
  • @DanJeffries1（9月14日）在假定强意义RSI存在且不只是营销术语的前提下，列出九大限制，认为这些限制会把RSI压成一条隐藏的S曲线。其列举的限制包括主客问题（观察并改进自身的系统本身有缺陷，如何确认真的变强）与物理世界问题（即使在虚拟环境中，试验也受物理规律约束）等。

为什么重要

  • RSI是「AI加速发展、快速超越人类」叙事的技术支点，若其速度受控制理论约束，相关timelines预测可能被系统性高估。
  • 将成熟的控制工程框架（如小增益定理、反馈回路稳定性）引入AI能力讨论，为激烈的算力/数据路线之争提供了另一种可检验的分析工具。
  • 多位博主接力转发与扩展（如Jeffries的九限制清单），显示该观点在社区内引发了对「智能爆炸」假设的集中反思。

第 4 集 · AI 圈热炒 RSI：智能爆炸还是恐慌生意(2026-09-15,2 条)

继 AGI 之后，AI 圈开始热炒新概念 RSI（递归自我改进），即 AI 自己写代码、跑实验、改进训练流程，再传给下一代更强模型。在 GPT-6 Astra 被称摸到 AGI 门槛的背景下，相关文章梳理了这一思想的来龙去脉——其源头可追溯至 1965 年 I.J. Good 的论述，并探讨了围绕 RSI 的智能爆炸论与背后的利益之争。