Anthropic 研究员称 AI 十年内灭绝人类概率超 10%,引激烈争论

anshulkundaje · x · 2026-09-10

Anthropic 研究员 EvanHub 表示团队真诚相信 AI 可能灭绝全人类，他个人认为未来十年内这一概率超过 10%，且 Anthropic 尚无解决超级智能对齐的方案，也未必在正确轨道上。

pmaverickb 反驳：如果 P(灭绝) 真有 10%，那概率分布的其余大部分同样是坏结果——若「大量人口死亡」是抛硬币级别的风险，今天就该停止所有模型训练；他认为核/化/生风险从未达到这种担忧程度，且后者拥有国家级安全体系。这场争论折射出 AI 末日论者与批评者之间的核心分歧。