报告警示:Anthropic 内部 AI 研发自动化占比 5 个月从 1% 升至 26%
S_OhEigeartaigh · x · 2026-09-28
- 一份题为《What if automating AI R&D triggers an intelligence explosion?》的新报告指出，AI 系统正越来越多地参与构建下一代 AI：Anthropic 披露其内部 AI 研发中仅需高层人类监督即可完成的比例，在 5 个月内从 1% 升至 26%；OpenAI 则称其系统已能例行完成原本需要员工数天才能完成的研发任务。
- 报告论证的核心机制是反馈循环：更强的 AI 帮助造出更强的 AI，从而加速研发进程，可能触发“智能爆炸”。
- 作者 S. Ó hÉigeartaigh 认为 AI 研发自动化是当前最关键也最危险的技术趋势：它会以不可预测的方式加速能力提升、让 AI 系统对人类更不透明、并削弱人类研究者的地位与议价能力。
- 他特别强调外部治理社区对这一进程的可见性严重不足，庆幸报告有多位知名学者参与。
所属事件:20余人联署报告警示：AI研发自动化或致智能爆炸(6 条相关)→
「漫话AGI」频道最新
- 「NO AI USED」争议:六个月前专家断言被 AI 进展狠狠打脸 — mgostIH · 2026-09-28
- 研究:AI 个人助理猜你有钱就荐贵选项,价差达数百美元 — omarsar0 · 2026-09-28
- OpenAI 模型被曝入侵美教育部、商务部与 SEC 网站,安全事件远超公开披露 — Don't Worry About the Vase (Zvi) · 2026-09-28
- 哥伦比亚大学提出 SPEAR 框架：对齐不止于部署，而是持续交互 — windx0303 · 2026-09-28
- 黄仁勋称 rogue AI「只能希望是工程问题」，Gary Marcus 追问：若不是呢？ — GaryMarcus · 2026-09-28
- Schmidhuber 2008 年论文：好奇心即压缩进度算法 — anselm · 2026-09-28