20余人联署报告警示AI自动化研发或触发智能爆炸
9月27-29日,一份题为《What if automating AI R&D triggers an intelligence explosion?》的报告引发广泛传播。报告汇聚学界、公民社会与前沿AI公司20余位作者联署,评估「自动化AI研发能否引发智能爆炸」并呼吁政府提前行动;其中披露的Anthropic内部数据是首个来自前沿实验室的量化证据,显示AI参与构建下一代AI已从假设变为可量化的现实。
已确认
- 报告由20多位作者联合署名,横跨学术界、公民社会与前沿AI公司,包括诺贝尔奖得主Geoffrey Hinton、Yoshua Bengio、OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz、Meta AI研究副总裁Dawn Song、前OpenAI研究员Tom Davidson及merettm等。《卫报》与Sky News均做了报道;@nordicinst转述《卫报》称联署者中还有OpenAI/Anthropic高管;@coherence指出Hinton与Bengio两位AI「教父」均参与联署。
- @JeffLadish转述报告核心论点:若AI按当前速度继续进步,超智能AI失控将非常可能发生;而一旦AI开始自动化AI研究本身,进展速度还会大幅提升——除非全球协调减速。
- 报告披露Anthropic内部数据:AI在其内部研发中主导的任务占比在约5个月内从约1%(2026年2月时)升至约26%(约四分之一),Sky News亦有报道。
- 报告将AI研发自动化视为当前最重要也最危险的技术演进之一:以不可预测的方式加速能力进步,可能让AI系统对人类更不透明,并削弱人类研究者的地位与谈判筹码。
- 报告呼吁政策制定者紧急要求对相关研究进展提高可见性;发布时同步附上中文翻译。@stvlsn指出该报告由Foundation for American Innovation(FAI)发布。
尚未确认
- @Patrice提到有被引用的评论者质疑美国能否有效应对这一风险,此为外部评论而非报告结论,报告本身的政策诉求能否落地亦待观察。
为什么重要
- AI参与构建下一代AI已从假设变为可量化的现实,Anthropic数据提供了前沿实验室的首个具体量化证据,显示这一进程正在加速实验室内部研发迭代。
- @victorexplore指出,26%的占比虽不代表完全自动化或「AI改进AI」,但已是朝该方向迈出的实质性一步,且正在加快AI实验室的迭代。
- @SOhEigeartaigh(报告作者之一)提醒,外部治理社群对这一趋势的理解与准备仍不足,报告意在推动政府在智能爆炸风险显现前建立应对机制。
- @pstAsiatech将其概括为AI圈关于递归自我改进风险的核心辩题,即用AI自动化AI研发本身是否会触发智能爆炸。作者阵容横跨各大阵营本身也值得注意,显示各方对这一风险的关切并非单一立场。
2026-09-27 ~ 2026-09-29 · 13 条相关
一手来源
- 报告警示:Anthropic 内部 AI 研发自动化占比 5 个月从 1% 升至 26% — S_OhEigeartaigh ·
- Hinton、Bengio 联合 OpenAI/Anthropic 高管警告「智能爆炸」,20余人联署报告敦促政府行动 — nordicinst ·
- 新论文警告:AI 自动化 AI 研究后进展将急剧加速,失控风险同步逼近 — JeffLadish ·
- Anthropic 内部 AI 主导任务从 1% 升至四分之一 — victor_explore · 2026-09-27
- 【源头】报告警示:Anthropic 内部 AI 研发自动化占比 5 个月从 1% 升至 26% — S_OhEigeartaigh · 2026-09-28
- 学者警告:AI 研发自动化是最重要也最危险的技术演进 — S_OhEigeartaigh · 2026-09-28
- Bengio、Hinton 等联署新论文:初步证据支持自动化 AI 研发或致智能爆炸 — StephenLCasper · 2026-09-28
- 【源头】Hinton、Bengio 联合 OpenAI/Anthropic 高管警告「智能爆炸」,20余人联署报告敦促政府行动 — nordicinst · 2026-09-28
- AI 自动化研发被称最危险技术:重磅论文发布即附中文翻译 — S_OhEigeartaigh · 2026-09-28
- 自动化 AI 研发会否引爆智能爆炸?讨论触发条件 — pstAsiatech · 2026-09-28
- Pachocki、Hinton、Bengio 联名论文警告:AI 研发自动化或触发智能爆炸 — birchlse · 2026-09-29
- OpenAI 首席科学家等巨头研究员联名呼吁监管 AI 自动化研发 — S_OhEigeartaigh · 2026-09-29
- OpenAI 等高管论文警告:自动化 AI 研究或触发智能爆炸 — ___Patrice___ · 2026-09-29
- FAI 新论文探讨:自动化 AI 研发会否触发智能爆炸 — stvlsn · 2026-09-29
- 【源头】新论文警告:AI 自动化 AI 研究后进展将急剧加速,失控风险同步逼近 — JeffLadish · 2026-09-29
另有 1 条近重复转述:coherence