Hinton、Bengio 联合署名新论文：AI 研发自动化可能引爆「智能爆炸」
LuizaJarovsky · x · 2026-10-05
Alan Chan 等人（共同作者包括 Geoffrey Hinton 和 Yoshua Bengio 两位「AI 教父」）发表新论文《What If Automating AI R&D Triggers an Intelligence Explosion?》，探讨 AI 研发自动化可能引发的社会冲击。
背景事实：
- Anthropic 已建立 AI R&D 自动化指数，截至 2026 年 8 月显示 Claude「主导」了 Anthropic 26% 的 AI 研发工作，达到或超过「AI 协作」水平的工作占比超过 90%；
- OpenAI 宣布已实现「自动化研究实习生」目标，并计划在 2028 年 3 月前造出自动化 AI 研究员。
论文核心：智能爆炸被定义为「AI 驱动的 AI 进步急剧加速，把原本需要数年的进展压缩到数月甚至更短」。一旦发生，AI 系统将在大多数领域迅速超越人类专家，并带来两大社会影响：超强/超级智能 AI 系统的极速发展，以及这些系统被部署去开发新技术并在现实世界行动。论文同时讨论了相应的政策应对选项。
所属事件:剑桥22位学者联署：AI自动化研发或触发智能爆炸(7 条相关)→
「漫话AGI」频道最新
- Gregory Gundersen：AI 正揭示数学思想空间是负曲率的 — prof_g · 2026-10-23
- Ben Todd 修正预测：留给人类修复网络安全的时间只剩 6 个月 — ben_j_todd · 2026-10-23
- Reddit 热帖：用「平均人类全才」定义 AGI 本身就是个错误 — Super-Award-2244 · 2026-10-23
- 「二流程序员才在抱怨 AI」：资深开发者更该拥抱 AI 编码 — esrtweet · 2026-10-23
- SF 之外的反驳:富豪「退出社会」难成局,数据中心抗议已改变万亿公司选项 — sethlazar · 2026-10-23
- 少用 AI 读原始资料：把 AI 留给过滤与策展 — dejavucoder · 2026-10-23