Hinton、Bengio 等联名警告:AI 研发自动化或触发「智能爆炸」
LuizaJarovsky · x · 2026-10-05
一篇题为《What If Automating AI R&D Triggers an Intelligence Explosion?》的新论文由 Geoffrey Hinton、Yoshua Bengio 两位「AI 教父」以及 Song Dawn、Rémi Munos、Jack Clark、Miles Brundage 等众多顶尖研究者联署，讨论 AI 研发自动化可能引发的「智能爆炸」。
背景：Anthropic 和 OpenAI 都在积极推动 AI 研发自动化。Anthropic 建立了 AI R&D Automation Index，截至 2026 年 8 月，Claude「主导」其 26% 的 AI 研发工作，「AI 协作」级别以上的工作占比超 90%；OpenAI 宣布已达成「自动化研究实习生」目标，计划 2028 年 3 月前造出自动化 AI 研究员。
核心论点：论文将智能爆炸定义为「AI 驱动的 AI 进步急剧加速，把原本需要数年的进展压缩到数月甚至更短」，AI 将在大多数领域迅速超越人类专家。
三大社会风险：
- 能力增长速度超过社会引导与适应能力；
- 监督与控制能力丧失；
- 权力制衡被侵蚀。
政策建议：论文提出三条治理路径——对企业 AI 研发自动化建立可见性、开发引导与约束智能爆炸的手段、提前准备适应其冲击。作者认为其潜在风险足够严重，需要全球层面采取紧急行动。
所属事件:剑桥22位学者联署：AI自动化研发或触发智能爆炸(7 条相关)→
「漫话AGI」频道最新
- Gregory Gundersen：AI 正揭示数学思想空间是负曲率的 — prof_g · 2026-10-23
- Ben Todd 修正预测：留给人类修复网络安全的时间只剩 6 个月 — ben_j_todd · 2026-10-23
- Reddit 热帖：用「平均人类全才」定义 AGI 本身就是个错误 — Super-Award-2244 · 2026-10-23
- 「二流程序员才在抱怨 AI」：资深开发者更该拥抱 AI 编码 — esrtweet · 2026-10-23
- SF 之外的反驳:富豪「退出社会」难成局,数据中心抗议已改变万亿公司选项 — sethlazar · 2026-10-23
- 少用 AI 读原始资料：把 AI 留给过滤与策展 — dejavucoder · 2026-10-23