AI 灭绝风险争论：关键变量是超级智能而非生物武器

mbateman · x · 2026-09-10

关于「AI 十年内毁灭人类」的争论，mbateman 与 magnushambleton 展开交锋：Hambleton 认为对生物风险的判断几乎完全取决于你是否与生物学家深入交流过——对一个拥有动机的生物超级智能来说，灭绝一个物种几乎轻而易举。

mbateman 回应称，字面意义上「灭绝全人类」极其困难，他想不出比 shoggoth/灰 goo/回形针更可信的路径，而这些远达不到「近期 10%」的可信度。他的核心观点是：关键词不是「bio」而是「superintelligence」——一旦 granted，伊甸园式乐观与末日式悲观的对立就变得 trivial。David Manheim 补充：错位 ASI 本身才是存在性风险，它用生物武器还是别的手段并不重要；在 ASI 出现前，AI 设计全新超级病毒并不现实。