DeepMind AGI安全团队成员离职转投METR,称模型正变得愈发不对齐
JacquesThibs · x · 2026-09-13
Josh Engels 宣布三周前离开 Google DeepMind 的 AGI 安全团队,加入评估机构 METR,并拒绝了 Anthropic 与 OpenAI 的offer。他解释动机:各大公司都在通过递归自我改进(RSI)冲刺超级智能,但目前我们并不知道如何保证 AI 安全到足以支撑 RSI,一旦对齐失败后果可能是灾难性的。
他进一步警告,近期证据显示前沿模型的对齐水平不但没有改善,反而在变差——这正是他选择去做第三方评估而非留在实验室的原因。
所属事件:DeepMind 与 Anthropic 安全研究员接连转投评估机构 METR(3 条相关)→
「公司和人」频道最新
- 创始人人才密度榜：Palantir 力压斯坦福居首，Palantir CEO 自豪背书 — BrettKrieger12 · 2026-10-31
- 印度 AI 从业者直言：拼不过中国实验室，不必强行训练 LLM — PrasoonPratham · 2026-10-31
- 资深开发者当面吐槽后盛赞 GitHub Universe 团队 — DanWahlin · 2026-10-31
- Zitron 调侃 OpenAI 数学突破「那生意盈利了吗」,Maguire 反驳好戏在后头 — shaunmmaguire · 2026-10-31
- Stratechery:Palantir 的 FDE 不是岗位,而是一种产品战略 — annetgriffin · 2026-10-31
- Google 端上浏览器 Web AI Summit 2026:千人报名、24 讲者 25 个 Demo — jason_mayes · 2026-10-31