p(doom) 是伪概念?书摘指概率赋值对 AI 灭世无预测力

banteg · x · 2026-09-18

banteg 转发并引用了一段对 p(doom)（AI 灭世概率）的批评：概率赋值依赖积累的历史数据，而 AI 灭世是没有任何数据支撑的独立事件，因此给这种场景标一个具体概率没有预测价值，只是制造确定性的「幻觉」；同时它让人只关注（错误地）被认为最可能的未来，回避了真正广阔的不确定性光谱。

他同时引用了一段讽刺 longtermist（长期主义）的 grep 风格段子：一个 1990 年出生的人声称能为 2190 年出生、可能拥有超级智能的万亿后代规划优先级——「幸好他们还有我这个拿着 PDF 的人」。整体是对 AI 末日论及其论证方式的嘲讽式讨论。