Anthropic 安全主管称 AI 十年内灭绝人类概率超 10%，同事愤而离职
nordicinst · x · 2026-09-09
据 The Verge 报道，Anthropic 安全研究员 Jacob Coxon 宣布离职，指责 Anthropic 与 OpenAI「直奔自我改进的超级智能，拿我们的生命赌博」，尽管建造者自己也认真相信 AI 可能在本十年末杀死所有人。
离职数小时后，Anthropic 安全负责人公开表示，到 2030 年底 AI「可能杀死全人类」的概率超过 10%。
- 离职者曾在 Anthropic 与 OpenAI 训练 AI 系统，称两家公司在竞赛式开发无法控制的「超人系统」
- 业界长期担忧「递归自我改进」可能引发失控循环，如今大量代码已由 AI 编写，目标正被 actively 追逐
- 北欧 AI 圈亦警示不要陷入危险竞赛
所属事件:Anthropic研究员辞职警告：超级智能竞赛或致人类灭绝(21 条相关)→
「漫话AGI」频道最新
- AI 工程师称十年内 AI 灭绝人类概率 10%,业内集体认同却无人刹车 — IgorCarron · 2026-09-09
- 「执行力便宜了，好点子才是硬通货」引发 AI 圈共鸣讨论 — StefanoGogioso · 2026-09-09
- 政界人士致函联合国与 OECD，呼吁为超级智能制定国际条约 — S_OhEigeartaigh · 2026-09-09
- Eric Weinstein：AI 冠名问题成科技精英奖杯，研究者拿不到价值 — hugobowne · 2026-09-09
- 影迷拆解钢铁侠彩蛋:JARVIS 从不请自来的恰到好处救援 — aakashgupta · 2026-09-09
- 批评 AI 圈宿命论:把人的能动性轻易假设掉了 — sebkrier · 2026-09-09