Dario 称 RSI 已启动遭集中反驳，开发者呼吁关注滥用风险

9 月 12 日至 13 日，开发者社区围绕「递归自我改进（RSI）」是否已经到来展开集中争论。导火索是 Dario Amodei 在《Pacing AI》信中宣称 RSI 正在开始发生。多位研究者给出否定判断：现有系统卡与模型能力证据并不支持这一说法，当前模型不能自主产出研究想法，只能在边际上辅助实验；真实值得优先关注的是 AI 的滥用风险。

已确认

• Dario Amodei 在《Pacing AI》信中声称「RSI 已经开始」。Gary Marcus 转引 Ramez 的分析反驳：Dario 引用的博客文章以及最新 Claude 和 ChatGPT 模型的 system card 都明确显示 RSI 并未发生，该论断经不起推敲。
• tszzl 明确表示 RSI「根本还没来」：现在的模型并不能自主产出研究想法，只能在边际上帮忙跑实验，这与自主科研完全是两回事；即便 OpenAI/Anthropic 的私有 Claude 等模型可能更强，他也不认为 RSI 已实现。sebkrier 转发支持，称自己数月来一直坚持类似观点。
• johncrickett 质疑「威胁来自 RSI」的说法：RSI 尚未实现，甚至可能永远无法实现；与此同时 AI 已经存在许多真实风险与滥用问题，应当优先面对这些。
• gerardsans 回应称，讨论 AI 炒作术语是徒劳的，RSI 与 AGI、ASI 一样是无意义的硅谷饭桌缩写，唯一作用是让投资者免于面对真实的技术问题；他认为不存在「自我」「递归」或「改进」，只有迭代优化或进化。
• gerardsans 还从技术角度论证 RSI 是伪命题：软件不是平滑或无限的，代码满足规格后就完成了；AI 虽是概率性的但仍是软件，网络层、输入输出和参数一旦确定就定型；transformer 有容量上限，无法无限训练——继续灌数据只会导致灾难性遗忘。

为什么重要

• 这场争论反映了开发者社区对 AI 叙事的分化：一派（Gary Marcus、Ramez、tszzl、sebkrier）以系统卡证据和研究实践为依据评估自主科研能力，另一派（johncrickett、gerardsans）则主张把注意力从遥远或虚幻的 RSI/AGI 概念转向当下已存在的滥用与安全风险。
• 头部实验室负责人（Dario）与外部研究者对同一证据（system card）的解读出现明显分歧，显示「RSI 已启动」更多是叙事判断而非实证结论。
• gerardsans 的技术论证（模型容量上限、灾难性遗忘）为「RSI 不可行」的立场提供了具体的工程视角，尽管这些论断本身在社区中亦有争议空间。

2026-09-12 ~ 2026-09-13 · 7 条相关

事件全程(共 2 集)→

• 第 1 集:Dario 称 RSI 已启动遭集中反驳，开发者呼吁关注滥用风险(2026-09-12,7 条)
• 第 2 集:Mollick:OpenAI 与 Anthropic 暗示已初步实现递归自我改进(2026-09-13,3 条)

• 【源头】开发者热议:真正的 AI 威胁不是递归自我改进,而是滥用 — johncrickett · 2026-09-12
• 数据科学家回应:AGI/RSI 只是护投资者的硅谷饭桌术语 — gerardsans · 2026-09-12
• 【源头】技术反驳递归自我改进:模型容量有限,续训只会灾难性遗忘 — gerardsans · 2026-09-12
• 【源头】Gary Marcus 引数据反驳 Dario:系统卡显示 RSI 并未发生 — GaryMarcus · 2026-09-13
• tszzl:模型尚不能自主产出研究想法,RSI 远未到来 — i_dg23 · 2026-09-13
• Dario 称 RSI 已启动，多位研究者引数据反驳 — paulnovosad · 2026-09-13
• RSI 之争:研究者称模型尚不能自主产出研究想法 — i_dg23 · 2026-09-13