Anthropic researcher estimates over 10% chance AI wipes out humanity within a decade

9月9日至10日，Anthropic对齐研究员Evan Hubinger公开发表表态，称他和同事真诚相信AI可能灭绝全人类，他个人估计未来十年内这一风险超过10%。他同时承认，Anthropic正在尽力而为，但目前尚无解决超级智能对齐问题的方案，也不明确是否走在正确的路径上。

已确认

• Evan Hubinger（Anthropic对齐团队成员）明确表态：个人估计未来十年内AI导致人类灭绝的概率超过10%，且认为这种担忧在前沿实验室内部是真诚存在的信念
• 他承认Anthropic当前没有解决超级智能对齐问题的方案，也不确定方向是否正确
• 该表态在社交媒体被大量转发，包括投资人Christian A.（经nikvassev转发）等多方回应，引发激烈抨击与讨论

尚未确认

• 帖子材料中未见Evan Hubinger完整原文的具体出处与上下文细节，仅能确认其核心表态内容

为什么重要

• 有转发者（经JMannhart转发）提出类比：如果CERN安全负责人称未来10年有超10%概率产生毁灭性黑洞，世界将作何反应——认为AI领域正处于类似境地
• 研究者@DKokotajlev回应称公众不必惊讶：AI灭绝风险在AI研究者群体中是极常见且有据可查的观点，并援引2023年针对AI研究者的调查结果佐证，前沿实验室从业者对此的担忧由来已久
• 该事件凸显了前沿AI实验室内部对灾难性风险的认知与其公开推进节奏之间的张力，引发关于安全治理与透明度的讨论

2026-09-09 ~ 2026-09-10 · 7 related posts

• [source] Anthropic researcher puts >10% odds on AI killing all humans within a decade — AaronBergman18 · 2026-09-09
• Anthropic insider puts >10% odds on AI causing extinction this decade, drawing fierce backlash — ZeroStateReflex · 2026-09-10
• Anthropic researcher: >10% odds AI kills all humans within a decade, no alignment plan yet — michael_nielsen · 2026-09-10
• [source] 2023 AI researcher surveys show extinction concerns are long-held mainstream views — DKokotajlo · 2026-09-10

3 near-duplicate retellings: JMannhart · jammastergirish · nikvassev