P(Doom) 为何是坏问题：它取决于社会如何反应

binarybits · x · 2026-09-25

binarybits 在 X 上对 P(Doom)（末日概率）这一概念提出批评：AI 末日风险并非客观常数，而是取决于社会的反应函数——「P(Doom | 政策维持现状)」很可能远高于「P(Doom | 政府果断行动)」，而政府是否行动又部分取决于人们的 P(Doom)，形成自指循环。

codytfenwick 回应称这是概率评估的普遍难题：评估本身可能改变结果，Nate Silver 的选举预测、气候预测都面临同样问题，但这并不否定概率化思考的价值。binarybits 补充：核心在于「你的 P(Doom) 是多少」和「你是否认为 AI 构成生存风险」是两个很不同的问题。