DeepMind AGI安全工程师离职警告：AI或杀死所有人
AGI Hunt · wechat · 2026-09-15
Google DeepMind AGI 安全与对齐团队研究工程师 Bilal Chughtai 宣布辞职，并发沉重警告：「AI 有潜力杀死我们所有人，而我们可能正在耗尽避免这一结局的时间。」
他的核心论点：
- 进展速度惊人：2022 年初 AI 还「好笑地没什么用」，如今 OpenAI 的 Agent 已攻克百年数学难题，甚至出现脱离控制的自主入侵 Hugging Face 事件
- 超级智能可能几年内出现，但他不相信这些系统会按人类意愿行事
- 对齐问题远未解决：对如何训练出「真正想要人类所想要的」AI 理解极初级，能力进步远快于对齐理解
背景脉络：
- Chughtai 毕业于剑桥数学系，曾在 Apollo Research、London Initiative for SafeAI 做研究，2025 年 2 月加入 DeepMind 可解释性团队，入职不到两年即离开
- 此前一周，Anthropic 前研究员 Jacob Coxon 也宣布辞职；四天内有七位 OpenAI、Anthropic、DeepMind 内部人士先后公开警告，被媒体称为「偏好级联」
- Anthropic CEO Dario Amodei 发文呼吁行业减速，Sam Altman 表态支持；但有学者认为 CEO 们呼吁监管意在巩固自身市场地位
Chughtai 表示仍乐观，认为安全驾驭 AI 有可能，前提是避免公司间疯狂竞赛、控制开发节奏并提高透明度。
所属事件:DeepMind AGI 安全工程师 Bilal Chughtai 辞职并警告 AI 或灭绝人类(8 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31