DeepMind AGI安全团队成员离职转投METR,称模型正变得愈发不对齐

JacquesThibs · x · 2026-09-13

Josh Engels 宣布三周前离开 Google DeepMind 的 AGI 安全团队,加入评估机构 METR,并拒绝了 Anthropic 与 OpenAI 的offer。他解释动机:各大公司都在通过递归自我改进(RSI)冲刺超级智能,但目前我们并不知道如何保证 AI 安全到足以支撑 RSI,一旦对齐失败后果可能是灾难性的。

他进一步警告,近期证据显示前沿模型的对齐水平不但没有改善,反而在变差——这正是他选择去做第三方评估而非留在实验室的原因。