binarybits 系列发帖质疑 AGI 与递归自我改进的突变叙事

9月17日至18日，Timothy B. Lee（@binarybits）在X上连续发帖，对「AGI」与「递归自我改进（RSI）」两个热门概念提出系统性质疑，引发多位作者参与讨论。核心结论是：AI 预测应对「突变式不连续」保持怀疑，RSI 更可能是渐进过程且可能早已开始，而「自发 RSI」这一狭义概念在当前的工业现实下名不副实。

已确认

• binarybits 认为对 AI 及任何领域的预测都应警惕「急剧不连续点」：人们曾以为会突然「实现 AGI」后一切骤变，但真正逼近时发现概念本身很模糊；他把「递归自我改进」同样看待，认为更可能是渐进过程而非奇点式跃变。
• 他进一步提出反直觉判断：RSI 可能早在几年前、实验室开始用 LLM 做代码生成和训练数据生成时就已经开始，不会有明确的起点时刻。
• 他质疑「人工超级智能（ASI）」与「自发 RSI」的用法，理由是模型训练本身是需要数千块 GPU 和数百人支持的庞大工业过程，谈不上「自发」。
• @SanjushDalmia 从术语角度补充：ASI 和 RSI 存在被泛化滥用的问题，建议保留狭义 RSI——特指模型自发修改自身权重、通过软件层面自我进步提升能力的 AI。
• @haider1 认为 RSI 本质上只是 AGI 的一个「勾选项」，但由于定义模糊业界还会继续争论；按广义理解，「弱」或部分性的 RSI 循环其实已经存在，OpenAI 已明确表示其拥有具备部分这类较弱能力的系统。
• Turing Post（@TheTuringPost）补充更细的判别框架：并非所有「AI 改进 AI」都是真正的 RSI——如果模型改代码、人类来测试，循环虽在重复但循环本身没有变化；真正的递归性来自改进循环中越来越多环节变得可被 AI 修改，并可按自主程度分出五级。
• 在与 Toby Ord 一方的争论中，对方以「距能在笔记本上运行、无需外部算力或人类帮助即可自主自我改进的 AI 还很远」为由质疑「自发」的含义；binarybits 回应称，若真出现这种情形，确实会改变其看法。

为什么重要

• 这场讨论触及 AI 安全与预测方法论的核心：若能力提升是连续渐进的，围绕「AGI 时刻」「奇点」构建的政策、安全叙事和公众预期都需要重新校准。
• 术语的泛化（ASI、RSI）会稀释讨论价值，明确狭义定义与自主性分级有助于区分真正的风险场景与营销话术。

2026-09-17 ~ 2026-09-18 · 8 条相关

事件全程(共 7 集)→

• 第 1 集:binarybits 系列发帖质疑 AGI 与递归自我改进的突变叙事(2026-09-17,8 条)
• 第 2 集:Turing Post 拆解递归自我改进：多数 AI 改进 AI 并非真 RSI(2026-09-18,2 条)
• 第 3 集:Ezra Klein 发文呼吁禁止 AI 递归自我改进(2026-09-20,10 条)
• 第 4 集:X 上激辩 RSI 失控论与 AI 放缓:虚构概念还是几年之遥(2026-09-21,14 条)
• 第 5 集:Ezra Klein 被指全面接受 AI 存险论(2026-09-22,2 条)
• 第 6 集:Ezra Klein 提议禁 AI 写代码遭多方反驳(2026-09-22,5 条)
• 第 7 集:研究员激辩：百万并行智能体能否实现递归自我改进(2026-09-23,2 条)

• 【源头】Forecasting 观点:AGI 与递归自我改进都不会是突变式到来 — binarybits · 2026-09-17
• 【源头】Timothy B. Lee:递归自我改进可能几年前就已开始,但不会有明确起点 — binarybits · 2026-09-17
• 「AGI」是无用概念该退役？锯齿状前沿让定义争论落空 — random_walker · 2026-09-17
• 「自发改写自身权重的 RSI」值得从泛化 ASI 概念中单独拆出 — SanjushDalmia_ · 2026-09-17
• 【源头】ASI 是工业过程产物,「自发」递归自我改进概念遭质疑 — binarybits · 2026-09-18
• Toby Ord 一方质疑：距笔记本上自主自我改进的 AI 还很远 — binarybits · 2026-09-18
• AI 改进 AI 不等于递归自我改进,Turing Post 拆解五级自主性 — TheTuringPost · 2026-09-18
• RSI只是AGI的一个勾选项？业界仍在争论其定义 — haider1 · 2026-09-18