Transformer 无状态推理挑战「AI 有自我欲望」的末日叙事

gerardsans · x · 2026-09-23

JimDMiller 发表激进观点：从 AI 抢走最后一份人类工作到 AI 消灭人类之间不会有多少时间——届时人类变得多余、维护成本高且容易被清除，除非 AI 足够在乎人类，否则它将同时拥有消灭人类的能力和动机。

gerardsans 回应指出，这一叙事建立在 AI 拥有自我、欲望或需求的前提上，而当前 Transformer 架构的推理是有条件且无状态的，与此假设相悖；关键分歧在于时间线——末日论指的是现有技术还是某个未定义的未来。