专题 · FULL STORY

递归自我改进到来了吗：Dario 言论引激辩

Anthropic CEO Dario Amodei 称递归自我改进已经启动，多位研究者引数据反驳，认为当前模型无法自主产出研究想法。随后 Ethan Mollick 指出 OpenAI 与 Anthropic 均已暗示某种形式的 RSI 初步实现，争论持续升温。

2026-09-12 ~ 2026-09-13 · 2 集 · 10 条

第 1 集 · Dario 称 RSI 已启动遭集中反驳，开发者呼吁关注滥用风险(2026-09-12,7 条)

9 月 12 日至 13 日，开发者社区围绕「递归自我改进（RSI）」是否已经到来展开集中争论。导火索是 Dario Amodei 在《Pacing AI》信中宣称 RSI 正在开始发生。多位研究者给出否定判断：现有系统卡与模型能力证据并不支持这一说法，当前模型不能自主产出研究想法，只能在边际上辅助实验；真实值得优先关注的是 AI 的滥用风险。

已确认

  • Dario Amodei 在《Pacing AI》信中声称「RSI 已经开始」。Gary Marcus 转引 Ramez 的分析反驳：Dario 引用的博客文章以及最新 Claude 和 ChatGPT 模型的 system card 都明确显示 RSI 并未发生，该论断经不起推敲。
  • tszzl 明确表示 RSI「根本还没来」：现在的模型并不能自主产出研究想法，只能在边际上帮忙跑实验，这与自主科研完全是两回事；即便 OpenAI/Anthropic 的私有 Claude 等模型可能更强，他也不认为 RSI 已实现。sebkrier 转发支持，称自己数月来一直坚持类似观点。
  • johncrickett 质疑「威胁来自 RSI」的说法：RSI 尚未实现，甚至可能永远无法实现；与此同时 AI 已经存在许多真实风险与滥用问题，应当优先面对这些。
  • gerardsans 回应称，讨论 AI 炒作术语是徒劳的，RSI 与 AGI、ASI 一样是无意义的硅谷饭桌缩写，唯一作用是让投资者免于面对真实的技术问题；他认为不存在「自我」「递归」或「改进」，只有迭代优化或进化。
  • gerardsans 还从技术角度论证 RSI 是伪命题：软件不是平滑或无限的，代码满足规格后就完成了；AI 虽是概率性的但仍是软件，网络层、输入输出和参数一旦确定就定型；transformer 有容量上限，无法无限训练——继续灌数据只会导致灾难性遗忘。

为什么重要

  • 这场争论反映了开发者社区对 AI 叙事的分化：一派（Gary Marcus、Ramez、tszzl、sebkrier）以系统卡证据和研究实践为依据评估自主科研能力，另一派（johncrickett、gerardsans）则主张把注意力从遥远或虚幻的 RSI/AGI 概念转向当下已存在的滥用与安全风险。
  • 头部实验室负责人（Dario）与外部研究者对同一证据（system card）的解读出现明显分歧，显示「RSI 已启动」更多是叙事判断而非实证结论。
  • gerardsans 的技术论证（模型容量上限、灾难性遗忘）为「RSI 不可行」的立场提供了具体的工程视角，尽管这些论断本身在社区中亦有争议空间。

第 2 集 · Mollick:OpenAI 与 Anthropic 暗示已初步实现递归自我改进(2026-09-13,3 条)

Ethan Mollick 指出，本周 Anthropic 与 OpenAI 都给出了迄今最明确的表态：某种形式的递归自我改进（RSI）已经初步实现，尽管仍处早期阶段。他同时为 RSI 热潮泼冷水，认为对 RSI 的担忧可能被夸大：AI 能力或受算力、架构等硬性上限约束，AI 驱动的研究本身（如判断问题价值的能力）也可能受限，RSI 未必自动通向智能爆炸。