「LLM 是无状态的」:作者称整个 AI 安全领域建立在错误前提上

gerardsans · x · 2026-09-29

一条引发讨论的长帖断言:LLM 本质是无状态的——推理是本地的,一次查询一个窗口,从冻结权重中采样,residual stream 里的内容不会延续到下一次调用。

作者据此推出尖锐结论:没有自我、没有记忆、没有信念、没有目标,只是从冻结分布里的新采样;而安全、对齐和机制可解释性研究却建立在「内部状态存在」这一相反假设上。「这个领域本身就是谬误,在智识上已破产。」这是 AI 圈关于 LLM 本质与安全研究合法性的又一轮观点交锋,与认为 LLM 有记忆、会适应的反方立场针锋相对。