「AI 十年内毁灭人类 10%」不可推理，「有人用 AI 造成巨损」才值得讨论

mbateman · x · 2026-09-09

mbateman 提出对 AI 风险陈述方式的批评：'「AI 在未来十年内有 10% 概率终结人类」这一命题以一种让人几乎无法推理的方式为假；而「有人在未来十年内用 AI 造成巨大破坏的概率是 10%」则更可信，且至少是可以推理的。」

他的核心论点是风险讨论应区分「模型自主灭世」与「人滥用 AI」两类截然不同的命题，前者的机理模糊到无法量化，后者才有现实的因果链条可供分析。这与同期安全圈的 bio-risk 之争一脉相承。