评论人质疑 AI 安全圈：过度强调灭绝风险反而抬高举证门槛

jjvincent · x · 2026-09-10

Eric Levitz 发文质疑 AI 安全阵营对「存在性风险」的强调：他认为任何东西要杀死全部人类都极难，历史上从未发生过；相比之下，造成大量死亡的事情比比皆是，而「可能杀死很多人」这一论据本身就足以支撑 precaution，无需诉诸「灭绝全人类」的极端叙事。被引用的 Osita Nwanevu 则反驳称核武器的毁灭机制清晰可见，而 LLM 灭绝人类的路径（如「说服某人造出能感染全人类的生物武器」）更像依赖全知假设的想象。这是 AI 安全观点辩论中有代表性的正反交锋。