Hinton、Pachocki 等二十余名研究者联署报告：拆解递归自我改进
APPSO · wechat · 2026-10-03
剑桥 CASP 发布一份由二十多名研究者共同撰写的报告，讨论「递归自我改进（RSI）」——当 AI 深度参与 AI 自身的研发，技术进步会不会突然加速。
现实证据：Anthropic 内部由 AI 生成并获批的代码占比从 2025 年初的个位数升至 2026 年 5 月的 80% 以上；主要由 AI 自主完成、人类仅高层监督的研发工作从今年 3 月的 1% 升至 8 月的 26%。OpenAI 称代码 Agent 已用于未来模型的训练、评估与安全工作；Google 表示几乎所有涉及代码、技术设计和研究构思的工作都在用 AI。按趋势外推，到 2028 年中，AI 可能有能力承担原本需要人类专家数月完成的研发项目。
RSI 三阶段：最初 AI 只是研究员的辅助工具；随后成为研发流水线一部分，能自主拆解任务、编写代码、运行实验，本质是增加公司的「有效研究员数量」；最终进入真正递归——AI 参与研发出更强的下一代模型，新模型又回到研发流程，形成自我加速的系统。报告强调，这不需要 AI 有意识或亲手修改参数。近期案例包括 Google Research 的 RRSI（Agent 自动修改自己的提示词、工具、记忆等 harness）和 Meta 的 RSI/RSI²。
加速的可能性：AI 研发完全在数字世界，反馈周期短。报告估算，若 AI 达到顶尖研究员水平且成本不变，仅 OpenAI 现有推理算力理论上可支撑数百万名 AI 研究员并行工作；在理想化假设下，研发自动化后约一年半内技术进步速度可能提高十倍。Hinton 将此称为「智能爆炸」。
局限与警示：报告同时承认证据不足——估算依赖模型达到专家水平且成本不涨的前提；更多 Agent 未必等于更多发现；实验算力、训练数据和长周期训练任务仍是瓶颈；生物、材料等领域的实验时间无法被代码压缩；历史研发回报率数据中算法进步与算力增长相互纠缠，难以分离。报告真正担忧的，正是持续加速本身。
所属事件:剑桥22位学者联署：AI自动化研发或触发智能爆炸(7 条相关)→
「漫话AGI」频道最新
- Gregory Gundersen：AI 正揭示数学思想空间是负曲率的 — prof_g · 2026-10-23
- Ben Todd 修正预测：留给人类修复网络安全的时间只剩 6 个月 — ben_j_todd · 2026-10-23
- Reddit 热帖：用「平均人类全才」定义 AGI 本身就是个错误 — Super-Award-2244 · 2026-10-23
- 「二流程序员才在抱怨 AI」：资深开发者更该拥抱 AI 编码 — esrtweet · 2026-10-23
- SF 之外的反驳:富豪「退出社会」难成局,数据中心抗议已改变万亿公司选项 — sethlazar · 2026-10-23
- 少用 AI 读原始资料：把 AI 留给过滤与策展 — dejavucoder · 2026-10-23