Scott Alexander 详解 p(doom) 25%:好Plan C+可将其减半

slatestarcodex · x · 2026-11-02

Scott Alexander(slatestarcodex)在回复 @ohabryka 的争论中解释其风险估算:无条件 p(doom) 为 25%,而若实现「真正好的 Plan C+」这一远好于现实预期的世界,该概率应低于其一半(约 10% 左右)。他反驳批评者的双重标准:如果你在同一线程里主张可以对竞争超级大国进行单边核打击,就没资格以「 concerned deontologist 」的姿态惊恐于「你和朋友们在冒险」。他认为这需要 p(doom|好的 Plan C+) 高于 50% 才成立,而这个立场对普通美国人或 Less Wrong 用户而言,其实比他自己的「不惜一切阻止 AI 但在挥舞核武器前收手」更难接受。他强调并非在做 Overton Window 打压或道德指责。

所属事件:Plan C 争论与《Against SURA》:AI 安全圈两条战线激辩(17 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →