Anthropic 对齐负责人称十年内 AI 灭人类概率超 10%

beglen · x · 2026-09-12

一篇长文梳理了 AI 灾难论在本周的集中爆发：Anthropic 研究员 Jacob Coxon 深夜宣布退出行业，称「他们在直奔自我改进的超级智能，拿我们的生命赌博」。Anthropic 对齐科学负责人 Evan Hubinger 公开回应，称自己「真心认为 AI 可能杀死全人类，个人估计未来十年内概率超过 10%」。

当晚 BBC Newsnight 把这一数字抛给了诺贝尔奖得主 Geoffrey Hinton，文章以此为切入点讨论：当建造这些系统的人自己给出如此高的灭绝概率估计时，社会该如何应对。作者以家中「我们都会死」的日常玩笑作引，区分了 ordinary 的个体死亡与 AI 风险话语中的文明级死亡。