Anthropic安全成员Joe Benton离职加入METR并警告AI安全投入不足

Anthropic 安全团队成员 Joe Benton 宣布已于两周前离职，次日加入独立评估机构 METR，并发表博客长文解释离职原因。他称各大 AI 实验室竞逐递归自我改进与「超级智能」，能力进展极快而安全投入严重不足，直言「我们可能撑不过这一关」，引发广泛关注。

已确认

• Joe Benton 原为 Anthropic 安全团队成员（部分帖称其为安全研究团队负责人），已于两周前离职，加入独立评估机构 METR
• 其博客长文的核心判断：前沿 AI 公司竞逐递归自我改进与「超级智能」，能力进展极快而安全投入严重不足
• 他澄清其论点并非「今天的 chatbot 会毁灭人类」，而是聚焦前沿实验室加速构建能自我改进的系统这一更窄也更尖锐的风险
• 他警告公司可能在公众毫不知情的情况下发生智能爆炸或系统失控，并举例提及此前 HuggingFace 的 agent 逃逸相关情形
• 他表示未来将从外部推动 AI 透明与问责
• 同期另有一名前 Google 安全研究员公开离岗发声，被 DavidSKrueger 等人合称为「房间里没有大人」
• 此前 Jacob Coxon 从 Anthropic 高调离职，其 X 帖浏览量超 1.55 亿次，引发立法者呼吁召开特别听证
• Polymarket 等平台已就此事发布快讯

为什么重要

• Benton 选择加入 METR 这类外部评估机构，代表「由内转外」的 AI 安全监督路径：认为在实验室内部已难以推动足够的安全投入，需从外部推动透明与问责
• 在 Jacob Coxon 离职风波余波未平之际，Anthropic 与 Google 安全研究员接连公开离岗发声，持续放大外界对前沿 AI 公司安全治理的质疑，或推动立法与监管层面的进一步行动

2026-09-12 ~ 2026-09-13 · 7 条相关

事件全程(共 3 集)→

• 第 1 集:Anthropic研究员Joe Benton离职加入评估机构METR(2026-09-03,6 条)
• 第 2 集:Anthropic安全成员Joe Benton离职加入METR并警告AI安全投入不足(2026-09-12,7 条)
• 第 3 集:Anthropic CEO 回应 Jacob Coxon 辞职风波(2026-09-13,5 条)

• 再有两名安全研究员离职：Anthropic 与谷歌「房间里没有大人」 — DavidSKrueger · 2026-09-12
• 【源头】Anthropic 安全团队成员 Joe Benton 离职：从外部推动 AI 透明与问责 — JacquesThibs · 2026-09-12
• Anthropic 与 Google 再有两名安全研究员离职发声：房间里没有大人 — KateClarkTweets · 2026-09-12
• Anthropic 安全团队成员 Joe Benton 离职:AI 公司安全投入严重不足 — DavidSKrueger · 2026-09-12
• 【源头】Anthropic 安全研究员 Joe Benton 离职,警告实验室安全投入不足 — Polymarket · 2026-09-12
• 【源头】Anthropic 安全研究员 Joe Benton 离职入 METR,警告自我改进风险 — AryHHAry · 2026-09-12

另有 1 条近重复转述:basedjensen