AI 圈热炒新词 RSI:递归自我改进是智能爆炸还是恐慌生意
APPSO · wechat · 2026-09-15
继 AGI 之后，AI 圈开始热炒新词 RSI（递归自我改进），即 AI 自己写代码、跑实验、改进训练流程，再传给下一代更强模型。文章梳理了这一概念从 1965 年 I.J. Good「智能爆炸」设想的源起，以及上海交大、清华、字节等机构预印本提出的 L1-L5 自主性分级。
实践层面，OpenAI 宣布已实现「自动化研究实习生」，每投入一个人类工作日可换回相当于 3.1 个工作日的智能体运行时长；Anthropic 让 Claude Sonnet 5 在约 60 小时内用约 2400 条样本提升 Claude Opus 4.8 的对齐成绩；前 OpenAI 研究员翁荔重返 OpenAI 带队研究递归自我改进。但超级智能的时间预测分歧巨大（3-10 年），灾难性遗忘和研究判断力仍是硬难题。
文章的核心观点是质疑末日叙事的商业逻辑：Jacob Coxon 从 Anthropic 辞职引发风险争论，Amodei 呼吁降速并要求第三方常驻审计，OpenAI、马斯克等罕见达成「减速共识」——但安全审查成本恰恰只有头部公司能承担，规则制定权也握在它们手中；而黄仁勋反对安全/创新二选一，则是为了保住卖卡生意。作者认为，末日论与反末日论背后争夺的是算力、资本和产业利益的分配权。
所属事件:AI 圈热炒 RSI：智能爆炸还是恐慌生意(2 条相关)→
「漫话AGI」频道最新
- DeepMind 推出 AGI 经济学研究计划：工资或先于裁员释放信号 — soumitrashukla9 · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31
- Ethan Mollick：开放网页十年内恐消亡，建议回归私域社群 — emollick · 2026-10-31