研究者：一旦 ASI 能力近乎全能，对齐失败几乎必然导致人类灭绝

davidmanheim · x · 2026-09-17

davidmanheim 在 X 上参与关于 ASI 定义的讨论，指出 AI 安全圈的分歧很大程度源于术语：「ASI」在 LessWrong 社区语境里原本指全面远超人类的智能，因为 foom 假说的影响；而如今 AGI 到 ASI 的过渡更可能是渐进的。

他的核心判断是：一旦接受讨论对象是 MIRI 式的、能力近乎只受物理限制的 ASI，那么对齐失败的后果就是以概率几乎为 1 的方式导致人类灭绝，而且「存在多个各自失准的 ASI」并不能改变这个结局。