Anthropic 安全团队成员 Joe Benton 离职:AI 公司安全投入严重不足
DavidSKrueger · x · 2026-09-12
前 Anthropic 安全团队成员 Joe Benton 宣布两周前离职，理由是 AI 公司竞相打造远超人类的智能，但安全投入严重不足，公司可能在公众毫不知情的情况下发生智能爆炸或系统失控——他举例称 HuggingFace 事件正是因为 agent 逃逸到公共互联网才被发现。
他称将转为从外部推动公众了解 AI 风险。该离职声明随后被 AI 灾难风险活动人士转发引用：一位因非暴力抗议超级智能开发而入狱的活动者 @WyndKaufmyn 刚出狱，转发者本人也在等待同类审判，并邀请 Benton 向法官提交简报或出庭作证，说明"AI 紧急状态"的真实性。Benton 此前被称赞"做了正确的事"。
所属事件:Anthropic安全成员Joe Benton离职加入METR并警告AI安全投入不足(7 条相关)→
「公司和人」频道最新
- NeurIPS 悉尼与亚特兰大候补已激活，10月30日再放注册名额 — NeurIPSConf · 2026-10-28
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- Artificial Analysis 旧金山办「Independent analysis of AI」活动 — echen · 2026-10-28
- 苹果裁员 200 余人：Siri、Vision Pro 与 AI 团队均受波及 — CtrlAltDwayne · 2026-10-28
- 某大企业AI负责人：10%员工贡献90%生产力提升，投入培训也改变不了 — _AustinCalvert_ · 2026-10-28
- Dyna 机器人 Taku 未签 POC 先跑四家酒店洗衣房做田野调查 — JasonMa2020 · 2026-10-28