lemire:「超级智能会毁灭人类」是道德论证而非理性论证

lemire · x · 2026-09-10

学者 Daniel Lemire 撰文区分理性论证与道德论证:诸如「超级智能会杀死我们所有人」这类说法,本质上是道德宣言而非理性命题——如同「不装塑料隔板老人会死」「开油车毁了地球」。这类陈述虽有理性基础,但实际起作用的是道德层面:发言者无需提供理性证据,反方向的理性证据也不会动摇它。所以呼吁实验室给出理性解释往往得不到回应,不必惊讶。他引用经济学家 Robin Hanson 的互补解释:社会越复杂、信息越多,模糊而可怕的恐惧就不断涌现。

其引用的 cmuratori 质问更尖锐:如果 Anthropic 建 ASI 的理由是不让 OpenAI 先建成,那它打算用自己首个「能灭绝人类的 ASI」具体做什么,才能阻止 OpenAI 紧随其后也造出同样的东西?这个「先到先得」逻辑在公开层面从未被讲通。