研究者交锋「AI 十年内 10% 灭世」命题
围绕「AI 在未来十年内有 10% 概率终结人类」这一命题，多位研究者在数天内展开密集交锋。核心分歧不在于事实本身，而在于命题的定义方式、条件设定，以及通向灭绝的现实路径是否存在。多数参与者认为这一具体概率主张难以成立或至少无法推理。
已确认
- DeryaTR 发长文逐条驳斥该末日论，认为这一说法「纯属胡扯」：他唯一能设想的全灭场景是超级智能用陨石或全球核弹同归于尽，但 AI 自己也会被毁，等于自杀，因此不成立。
- mbateman 连续发帖反驳：字面意义上让 AI 彻底消灭人类极其困难，目前能想象的最强场景——shoggoth、灰胶、回形针最大化——都远不足以支撑「近期 10%」的概率主张。
- mbateman 还批评命题的表述方式：「AI 在未来十年内有 10% 概率终结人类」以让人几乎无法推理的方式为假，而「有人在未来十年内用 AI 造成巨大破坏的概率是 10%」则更可信、至少可推理。
- 在生物风险讨论中，magnushambleton 认为对生物风险的判断几乎完全取决于是否与生物学家深入交流过——对一个有动机的生物超级智能而言，灭绝一个物种几乎轻而易举，关键变量是超级智能而非生物武器本身。
- AI 安全研究者 David Manheim 澄清立场：他并非认为 AI×生物风险低，而是指出「AI 在现有病毒之外设计出全新超级病毒」在出现错位 ASI 之前并不现实。
- 研究者 Afinetheorem 提出条件化解读：在「无发展限制」的假设下概率确实高于 10%，但按同样标准，核武器、生物武器「能否杀死全人类」也应成立；若以中位发展路径为条件，实际概率要低得多。
为什么重要
- 这场争论显示，围绕 AI p(doom) 的分歧很多时候并非对事实的分歧，而是对命题定义、时间尺度与条件设定的分歧：无条件概率与中位路径概率相差甚远。
- Manheim 与 Hambleton 的交锋进一步区分了两类风险：AI 辅助生物武器滥用在当下即可能发生，而「设计全新超级病毒」则需以错位超级智能为前提，二者不应混为一谈。
2026-09-09 ~ 2026-09-11 · 6 条相关
一手来源
- 「AI 有 10% 概率灭世」遭驳斥:更像陨石撞击,并非现实威胁 — DeryaTR_ ·
- 博主反驳「AI 十年内 10% 灭绝人类」论：可行路径根本不存在 — mbateman ·
- David Manheim：ASI 出现前 AI 设计超级病毒并不现实 — davidmanheim ·
- 「AI 十年内毁灭人类 10%」不可推理，「有人用 AI 造成巨损」才值得讨论 — mbateman · 2026-09-09
- 【源头】博主反驳「AI 十年内 10% 灭绝人类」论：可行路径根本不存在 — mbateman · 2026-09-09
- AI 灭绝风险争论：关键变量是超级智能而非生物武器 — mbateman · 2026-09-10
- 【源头】David Manheim：ASI 出现前 AI 设计超级病毒并不现实 — davidmanheim · 2026-09-10
- 学者反驳 AI 灭绝概率讨论：无条件与中位路径概率差很远 — Afinetheorem · 2026-09-10
- 【源头】「AI 有 10% 概率灭世」遭驳斥:更像陨石撞击,并非现实威胁 — DeryaTR_ · 2026-09-11