Hinton、Bengio 联合 OpenAI/Anthropic 高管警告「智能爆炸」，20余人联署报告敦促政府行动
nordicinst · x · 2026-09-28
核心内容
《卫报》报道了一份由 20 多位作者联合署名的报告《What if automating AI R&D triggers an intelligence explosion》，作者包括诺贝尔奖得主 Geoffrey Hinton、Yoshua Bengio、Anthropic 联合创始人 Jack Clark 以及 OpenAI 首席科学家 Jakub Pachocki。
关键观点
- 报告警告可能出现「智能爆炸」：AI 驱动的 AI 进展加速，把原本需要数年的进步压缩到数月甚至更短
- 担忧核心是「递归自我改进」：一旦 AI 在 AI 研发上达到专家级能力，单个开发者就能运行相当于一支完整研发团队的劳动力
- 作者称这可能是「史上最重要的技术发展」，敦促各国政府（尤其欧盟）在失控进展到来前采取行动
所属事件:20余人联署论文警告：AI自动化研发或触发智能爆炸(8 条相关)→
「漫话AGI」频道最新
- Hanson vs Yudkowsky 辩论要点:经济学抽象 vs 自创认知框架之争 — RichardMCNgo · 2026-09-29
- 学者提出人类正在分裂:98%做超级智能的"宠物",2%放弃人形 — danfaggella · 2026-09-29
- Pachocki、Hinton、Bengio 联名论文警告：AI 研发自动化或触发智能爆炸 — birchlse · 2026-09-29
- AI 沙皇 Sacks 炮轰「灭绝论」:失业率 4.1%,预言全落空 — DavidSacks · 2026-09-29
- 学者批 AI 末日论是新的『煽情生意』：制造恐慌换经费与权力 — kevinnbass · 2026-09-29
- 比尔·盖茨:AI 是进化事件,已创造在多方面超越人类的智能物种 — haider1 · 2026-09-29