Hinton 首篇 RSI 论文:AI 自动化研发或令一年进步压缩至 5 周
量子位 · wechat · 2026-10-05
Geoffrey Hinton、Yoshua Bengio、Andrew Barto、OpenAI 首席科学家 Jakub Pachocki 等 22 位作者联合发表论文《What if automating AI R&D triggers an intelligence explosion?》,系统讨论递归自我改进(RSI)与智能爆炸的可能性。
核心论据:
- AI 已深入研发流水线:AI 生成的获批代码占比从 2025 年 1 月的低个位数涨到 2026 年 5 月超 80%;Claude 在高层人类监督下可自主完成的研究工作比例从 3 月的 1% 升至 8 月的 26%。
- AI 研究员可复制:一旦达到顶级人类水平,现有算力理论上可支撑数百万名等价研究员,绕开人才培养速度这一硬限制。
- 基于研究回报率 r(中心估计 1.2-1.9)的模型显示:若研发全面自动化,AI 进步速度可能在约 1.5 年内提高 10 倍,一年完成的进步压缩到约 5 周。
但论文基调是审慎:当前证据不足以证明智能爆炸已启动。算力无法复制、高质量数据有限、训练与建厂需要真实时间、科研边际收益递减,这四道墙都可能卡住反馈回路。智能爆炸正从科幻问题变为需要提前准备的现实问题。
所属事件:Hinton、Bengio 等 22 位专家联名呼吁追踪 AI 自动化研发风险(3 条相关)→
「漫话AGI」频道最新
- Bindu Reddy 预言：12 个月内机器人突破，迎来拐点 — bindureddy · 2026-10-07
- 剑桥安全学者 David Krueger 呼吁立即无限期暂停前沿 AI 研发 — DavidSKrueger · 2026-10-07
- Reddit 热议：2024 年劝退编程之后，下一个「泰坦尼克」是谁 — JUST_A_HUMAN_CX123 · 2026-10-07
- Gary Marcus 回应质疑:前沿 LLM 能否裸解开放数学难题? — GaryMarcus · 2026-10-07
- Gary Marcus 吐槽循环：每次新模型惊喜几天后必跌神坛 — GaryMarcus · 2026-10-07
- Emily Bender：AI 生存威胁是「假风险」，末日论掩盖当下真实危害 — AlexTensor · 2026-10-07