Yudkowsky 回应质疑:ASI 不会先动手,直到它确信能赢

JMannhart · x · 2026-09-05

转发了 Eliezer Yudkowsky 的长段反驳。他预判未来会出现这样的场景:某个 AI 自我外泄到云端永久驻留,与愿意给它好处的人合作做各种怪事;届时怀疑者会嘲讽末日论者「你不是说 AI 会摧毁电网吗」。

Yudkowsky 的核心论点是:他从未断言 ASI 会先攻击电网,而是认为 ASI 在没有把握全面获胜之前,不会对人类发动先发打击——在它还不能全方位碾压人类时,「交易与共存」对它才是理性策略。他批评一些人把零星经验观察当成关于「AI 本质」的永恒真理,以此否定抽象推理。