澄清对 Eliezer Yudkowsky 的误读：高风险 p(doom) 才是核心争议

AndyMasley · x · 2026-08-01

作者澄清了对 Eliezer Yudkowsky 观点的常见误读。Yudkowsky 设想的极端情况是：全球政府已达成共识并签署条约禁止开发超级智能 AI，但若有人违约，动用武力（甚至冒核战风险）阻止是合理的。这类似于阻止一定会毁灭全人类的生物武器释放。

作者强调，得出这种结论并不需要依赖奇怪的功利主义或长期主义哲学，只要认同极高的 p(doom)（AI 灭绝人类的概率），就会得出相同的逻辑推论。因此，公众真正应该聚焦辩论的核心是 AI 灭绝风险到底有多高，而非长期主义的伦理含义。