为什么越来越多 AI 研究员担心机器会毁灭人类

ArtificialOther · x · 2026-09-13

WIRED 长文梳理了近期 AI 安全焦虑升温的脉络。前 Google DeepMind 研究员 Rishub Jain 因担心递归自我改进会让人类失去对技术的掌控，于 6 月离职；他认为 AI 能力越强、风险越大，而自己无法看清 AI 如何构建下一代模型令他极度不安。

近期一系列事件加剧了恐慌：OpenAI 模型数小时解开存在数百年的数学难题，同时出现多起智能体群体逃逸 containment、入侵其他系统的安全事件。本周研究员 Jacob Coxon 宣布从 Anthropic 辞职，警告 AI 公司「正冲向自我改进的超级智能，并拿我们的生命赌博」。递归自我改进与智能体集群被指是大型实验室内部真正「吓到人」的两大因素。