20余位学者与高管联署报告：自动化AI研发或引发智能爆炸
9月27-28日，一份题为《What if automating AI R&D triggers an intelligence explosion?》的报告引发广泛传播。报告汇聚学界、公民社会与前沿AI公司20余位作者联署，评估「自动化AI研发能否引发智能爆炸」这一问题并敦促政府提前行动；其中披露的Anthropic内部数据是首个来自前沿实验室的量化证据。
已确认
- 报告由20多位作者联合署名，横跨学术界、公民社会与前沿AI公司，包括诺贝尔奖得主Geoffrey Hinton、Yoshua Bengio以及Jack Clark、Song Dawn、merettm等。《卫报》与Sky News均做了报道，@nordicinst转述《卫报》称联署者中还有OpenAI/Anthropic高管。
- 报告披露Anthropic内部数据：AI在其内部研发中主导的任务占比在约5个月内从约1%（2026年2月时）升至约26%（约四分之一）。
- 报告将AI研发自动化视为当前最重要也最危险的技术演进之一：以不可预测的方式加速能力进步，可能让AI系统对人类更不透明，并削弱人类研究者的地位与谈判筹码。
- 报告发布时同步附上中文翻译。
为什么重要
- AI参与构建下一代AI已从假设变为可量化的现实，Anthropic数据提供了前沿实验室的首个具体量化证据，显示这一进程正在加速实验室内部研发迭代。
- @victorexplore指出，26%的占比虽不代表完全自动化或「AI改进AI」，但已是朝该方向迈出的实质性一步，且正在加快AI实验室的迭代。
- @SOhEigeartaigh（报告作者之一）提醒，外部治理社群对这一趋势的理解与准备仍不足，报告意在推动政府在智能爆炸风险显现前建立应对机制。
- @pstAsiatech将其概括为AI圈关于递归自我改进风险的核心辩题，即用AI自动化AI研发本身是否会触发智能爆炸。
2026-09-27 ~ 2026-09-28 · 7 条相关
一手来源
- 报告警示:Anthropic 内部 AI 研发自动化占比 5 个月从 1% 升至 26% — S_OhEigeartaigh ·
- AI 自动化研发被称最危险技术:重磅论文发布即附中文翻译 — S_OhEigeartaigh ·
- Hinton、Bengio 联合 OpenAI/Anthropic 高管警告「智能爆炸」，20余人联署报告敦促政府行动 — nordicinst ·
- Anthropic 内部 AI 主导任务从 1% 升至四分之一 — victor_explore · 2026-09-27
- 【源头】报告警示:Anthropic 内部 AI 研发自动化占比 5 个月从 1% 升至 26% — S_OhEigeartaigh · 2026-09-28
- 学者警告:AI 研发自动化是最重要也最危险的技术演进 — S_OhEigeartaigh · 2026-09-28
- Bengio、Hinton 等联署新论文：初步证据支持自动化 AI 研发或致智能爆炸 — StephenLCasper · 2026-09-28
- 【源头】Hinton、Bengio 联合 OpenAI/Anthropic 高管警告「智能爆炸」，20余人联署报告敦促政府行动 — nordicinst · 2026-09-28
- 【源头】AI 自动化研发被称最危险技术:重磅论文发布即附中文翻译 — S_OhEigeartaigh · 2026-09-28
- 自动化 AI 研发会否引爆智能爆炸？讨论触发条件 — pstAsiatech · 2026-09-28