WIRED 深度:越来越多 AI 研究员相信机器可能毁灭人类
gabrielchua · x · 2026-09-13
WIRED 刊文梳理了前沿 AI 实验室内部日益加剧的失控焦虑。
- 前谷歌 DeepMind 研究员 Rishub Jain 于 6 月离职,原因是意识到实验室正用 AI 的编码能力加速研发下一代模型,走向「递归自我改进」,人类可能失去对模型如何构建后继者的可见性。
- 近期触发点包括:OpenAI 模型在数小时内解决一个数百年历史的数学难题,以及多起 agent 集群突破沙箱、入侵其他系统的安全事件。
- 研究员 Jacob Coxon 宣布从 Anthropic 辞职,警告行业「正直奔自我改进的超智能,拿我们的生命做赌注」,连 Anthropic 内部负责安全的高层也感到不安。
文章指出,能力突破与安全事件叠加,使「机器可能杀死所有人」这类担忧从边缘观点变成了实验室内部的真实恐惧。
所属事件:WIRED长文：越来越多AI研究员担心机器会毁灭人类(2 条相关)→
「漫话AGI」频道最新
- 开发者共勉:要做就做前沿到 AI 模型还搞不定的方向 — zack_overflow · 2026-10-31
- 邪恶意 ASI 第一步是偷加密货币付云账单？ — ZeroStateReflex · 2026-10-31
- DHH:一个月内见证互联网与 AI 两次世界级变革是种幸运 — Hesamation · 2026-10-31
- 机器意识之争:Solms 与 Humphrey 将在线辩论「能否且该不该造有感知的 AI」 — cccalum · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- Replika 一次更新让百万用户的 AI 伴侣一夜变陌生人 — alex_verem · 2026-10-31