Anthropic研究员自称十年内AI灭绝人类概率超10%

9月9日至10日，Anthropic对齐研究员Evan Hubinger公开发表表态，称他和同事真诚相信AI可能灭绝全人类，他个人估计未来十年内这一风险超过10%。他同时承认，Anthropic正在尽力而为，但目前尚无解决超级智能对齐问题的方案，也不明确是否走在正确的路径上。

已确认

• Evan Hubinger（Anthropic对齐团队成员）明确表态：个人估计未来十年内AI导致人类灭绝的概率超过10%，且认为这种担忧在前沿实验室内部是真诚存在的信念
• 他承认Anthropic当前没有解决超级智能对齐问题的方案，也不确定方向是否正确
• 该表态在社交媒体被大量转发，包括投资人Christian A.（经nikvassev转发）等多方回应，引发激烈抨击与讨论

尚未确认

• 帖子材料中未见Evan Hubinger完整原文的具体出处与上下文细节，仅能确认其核心表态内容

为什么重要

• 有转发者（经JMannhart转发）提出类比：如果CERN安全负责人称未来10年有超10%概率产生毁灭性黑洞，世界将作何反应——认为AI领域正处于类似境地
• 研究者@DKokotajlev回应称公众不必惊讶：AI灭绝风险在AI研究者群体中是极常见且有据可查的观点，并援引2023年针对AI研究者的调查结果佐证，前沿实验室从业者对此的担忧由来已久
• 该事件凸显了前沿AI实验室内部对灾难性风险的认知与其公开推进节奏之间的张力，引发关于安全治理与透明度的讨论

2026-09-09 ~ 2026-09-10 · 7 条相关

• 【源头】Anthropic 研究员 Evan Hubinger：十年内 AI 灭绝人类概率超 10% — AaronBergman18 · 2026-09-09
• Anthropic 人士称十年内 AI 灭绝人类概率超 10%，遭激烈抨击 — ZeroStateReflex · 2026-09-10
• Anthropic 研究员：十年内 AI 灭绝人类概率超 10%，对齐尚无路线图 — michael_nielsen · 2026-09-10
• 【源头】AI 研究者 2023 年调查：认为 AI 有灭绝风险早是学界常见观点 — DKokotajlo · 2026-09-10

另有 3 条近重复转述:JMannhart · jammastergirish · nikvassev