自回归幻觉与全局约束
lnsip9reg · reddit · 2026-07-12
作者用一个长文比较了**自回归生成**与 **N-body 数值模拟**的共同点：两者都是把一个强耦合、非线性的系统，压缩成“逐步更新”的局部计算，因此都会出现误差递归放大、长期漂移和失稳。 文章的核心观点是：AI 的“幻觉”不只是训练数据或模型容量问题，而是**顺序式建模的结构性问题**。作者借用动态系统里的 **Lyapunov 时间** 来说明：一旦第 N 步出现微小偏差，后续步骤会在这个错误状态上继续推演，导致全局一致性逐渐崩坏，而局部看起来仍然合理。 作者进一步认为，RLHF、prompt engineering、guardrails 这类方法都属于“事后修补”，无法从根本上解决漂移；更根本的方向是**全局求解/场式计算**，即让系统一次性约束整体状态，而不是靠一步步生成来拼装一致性。文末以所谓 **Tesseract-Symmetry Engine (TSE)** 作为这种思路的实现方向。