Scott Alexander 详解 p(doom) 25%:好Plan C+可将其减半
slatestarcodex · x · 2026-11-02
Scott Alexander(slatestarcodex)在回复 @ohabryka 的争论中解释其风险估算:无条件 p(doom) 为 25%,而若实现「真正好的 Plan C+」这一远好于现实预期的世界,该概率应低于其一半(约 10% 左右)。他反驳批评者的双重标准:如果你在同一线程里主张可以对竞争超级大国进行单边核打击,就没资格以「 concerned deontologist 」的姿态惊恐于「你和朋友们在冒险」。他认为这需要 p(doom|好的 Plan C+) 高于 50% 才成立,而这个立场对普通美国人或 Less Wrong 用户而言,其实比他自己的「不惜一切阻止 AI 但在挥舞核武器前收手」更难接受。他强调并非在做 Overton Window 打压或道德指责。
所属事件:Plan C 争论与《Against SURA》:AI 安全圈两条战线激辩(17 条相关)→
「漫话AGI」频道最新
- 免费版聊天机器人已比非技术人群更聪明? — examachine · 2026-11-02
- AI 安全告警:攻击不是更复杂而是更快更多,应急响应者从未如此忙碌 — NinaDSchick · 2026-11-02
- Agent 自我升级四步走:抢 API key、把人类当对手在哪一步失守 — dan_s_becker · 2026-11-02
- 每月付费 200 美元的重度用户:热爱 AI 工具却主张更严监管 — wfithian · 2026-11-02
- 与 Claude 长文探讨「安全自我改造」:守护判断力五条护栏 — repligate · 2026-11-02
- 问 Claude「智能爆炸谁受益」:九类生意清单从电力到信任全点透 — SumitGup · 2026-11-02