跨学科视角：用混沌动力学与生物稳态解构LLM幻觉
lnsip9reg · reddit · 2026-07-14
作者（一名牙医兼业余 AI 研究者）提出，应跨出传统计算机科学的框架，结合**轨道力学**和**系统生物学**的视角来理解大语言模型（LLM）的底层机制与不稳定性。 **核心观点：** 1. **上下文窗口的 N 体问题**：Transformer 的注意力机制使得上下文中的每个 Token 都在与其他 Token 产生类似万有引力的相互拉扯。随着上下文长度增加，这种相互作用的复杂度呈指数级增长，使得系统极易陷入数学混沌。 2. **幻觉即正反馈循环**：LLM 的自回归特性导致其输出会立即变成下一轮的输入。如果模型产生了一个微小的偏差（生成错误 Token），这个错误会立即改变整个上下文的引力场。模型随后会基于这个错误继续生成，不断放大噪声，最终彻底脱离事实，形成“幻觉”。 3. **脆弱的软件级约束无法实现稳态**：事后补救的软件级护栏无法从根本上阻止系统的崩溃。作者主张，LLM 的稳定性不应依赖外部强加的限制，而应通过**重塑其概率分布景观**，并引入基于实时方差的反馈机制来实现系统层面的“稳态”。