Anthropic 研究员:十年内 AI 灭绝人类风险超 10%,对齐尚无解法

SatelliteNetSec · x · 2026-09-10

Evan Hubinger 回应关于数据中心建设的争议时表态:Anthropic 确实真心相信 AI 有可能灭绝人类,他个人认为未来十年内该风险超过 10%。他称 Anthropic 正在尽力,但目前尚未有解决超级智能对齐问题的方案,也谈不上走在正确的轨道上。

这条表态被两派引用:有人借此讽刺「最好的情形就是全民失业、财富集中到寡头手中,最坏情形是杀死全人类」;也有人(如 Hugging Face 的 Clement Delangue)主张既然风险如此之高,就需要百倍的研究投入,而封闭式研究无法应对全人类级别的风险。