Anthropic 研究员 Evan 称十年内 AI 灭绝人类风险超 10%

wfithian · x · 2026-09-10

Anthropic 联合创始人级研究员 Evan Hubinger 公开表示，他真诚认为 AI 可能在十年内杀死全人类，个人估计概率大于 10%，并称 Anthropic 尚无解决超级智能对齐的方案，也未明确在正确轨道上。

转发者 littIeramblings 补充：早在 2022 年 Evan 就给 AI 存在性风险约 80% 的概率，「存在性风险」与「灭绝」的区分外界很少理解；且「>10%」的下限表述容易让粗读的人误以为有九成概率没事，建议用区间（如 10-20%）表达更诚实。评论者普遍认为这轮公开讨论正处于罕见的高关注窗口。