研究员弃 GDM 投 METR：AI 夺权概率超 20%，该减速了

sjgadler · x · 2026-09-10

前 Google DeepMind 研究员 Josh Engels 解释为何离开 GDM 加入安全评测机构 METR 而非另一家前沿实验室：他越来越确信「局面并未受控」，认为应当放慢速度，并长期估计 AI 夺权（takeover）概率超过 20%，近期这种感觉尤其强烈。

他引用 Evan Hubinger 的表态：Anthropic 内部确实真诚相信 AI 可能杀死全人类——Hubinger 个人估计未来十年内这一概率超过 10%；他认为 Anthropic 已尽全力，但目前仍没有解决超智能对齐的方案，也看不出明确在正轨上。