「超级智能会自我复制」被质疑:末日论细节全是跳步

recallingmemories · reddit · 2026-09-13

一位 Reddit 用户质疑 AI 末日论的论证质量:面对「先进 AI 如何毁灭人类」的提问,得到的是「足够聪明的智能体能杀死我们,比如你没法拔插头,因为它能把自己复制到其他电脑」。作者反驳称这一情景跳过了所有关键细节——Claude 复制文件之后呢?在无人监督的持久循环里自我提示并说服自己不断向黑进的服务器扩散?作者认为这本质是用「它聪明到你不懂」进行恐吓,并澄清自己并非否认 LLM 在被人类恶意指挥且接入工具时不会出问题,而是认为真正的末日图景并没有被具体描绘出来。