最懂 AI 的人在逃离:Coxon 辞职称行业在「拿人命赌博」
adariostrange · x · 2026-09-18
MARS Magazine 长文梳理 AI 安全研究者接连出走的现象。本月早些时候,研究者 Jacob Coxon 辞去 Anthropic 职务,称该公司及同行在「拿我们的生命赌博」;在任的 Anthropic 研究员 Evan Hubinger 也表示「我们真诚相信 AI 可能杀死全人类」。
- 前例:2024 年 Jan Leike 与 Daniel Kokotajlo 因安全担忧离开 OpenAI;今年 Anthropic 安全负责人 Mrinank Sharma 离职,警告「世界危在旦夕」;Alex Turner 在 Google DeepMind 与五角大楼签下涉及「杀伤性无人机」的协议后离开。
- 脉络:末日论可追溯到 Bostrom 2014 年《Superintelligence》与 LessWrong 社区。
- 悖论:2023 年 OpenAI、Anthropic、Google DeepMind 的 CEO 都承认灭绝风险应与疫情、核战同级;Dario Amodei 估计「非常糟糕」的概率为 10–25%。
文章的核心问题是:既然造 AI 的人相信它可能灭绝人类,为什么还在继续造?文章给出三种主要解释并展开分析。
所属事件:Anthropic 研究员 Coxon 高调辞职，警告行业拿人命赌博(2 条相关)→
「漫话AGI」频道最新
- 「因果模式就是全部所需」：Keith Ward 热议没有硬问题的智能观 — burny_tech · 2026-11-02
- 开发者吐槽:AI生成求职信泛滥,其博客阅读量从70万暴跌至7千 — ericelliott_ · 2026-11-02
- 数学家 Tivadar：掌握不变的基础数学，才不会被 AI 时代淘汰 — TivadarDanka · 2026-11-02
- 普林斯顿 Narayanan：AI 实验室竞逐的「递归自我改进」或成商业模式自我灭绝 — random_walker · 2026-11-02
- 学者宣布退出 JMLR:AI 审稿已胜过赶时间的人类,期刊需推倒重来 — roydanroy · 2026-11-02
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02