普林斯顿学者批 p(doom)：伪量化把无凭直觉洗成政策依据
RexDouglass · x · 2026-09-18
Arvind Narayanan 与 Sayash Kapoor 两年前发表的长文被重新转发，作者认为其观点至今仍完全成立。核心论点：
- AI 存在性风险（x-risk）概率估计本质上不可靠，不足以作为政策制定的依据，反而极具误导性
- p(doom) 的主要功能是给模糊的、无证据的直觉与恐惧披上量化的外衣（"洗白"）
- Itaisher 指出这种数字的诡异传播链：先由 Anthropic 员工在无公开论证的情况下抛出，随后数学家引用，最终被归于数学家的判断——这是糟糕的认识论实践
- 作者用"外星人 10 年内登陆概率 80%"类比说明：概率本身不具权威性，必须有扎实方法支撑
这是 AI 安全社区关于 x-risk 叙事的一次系统性认识论批判。
「漫话AGI」频道最新
- 数学家 Daniel Litt 强硬回应「数学已死」:数学万岁 — littmath · 2026-09-18
- Extropic 创始人 Beff Jezos 表态:少末日论,多搞建设 — beffjezos · 2026-09-18
- Google 研究员:末日论先假设渐进性失权才说得通 — moultano · 2026-09-18
- 「人类级数学已解决」?研究者反驳:数学99%尚未被发现 — rand_longevity · 2026-09-18
- Grady Booch 讽刺AI自我监管：如同相信灭霸会自律 — Grady_Booch · 2026-09-18
- Geoffrey Litt：带提示词的文档就是下一个 IDE — ivanhzhao · 2026-09-18