LLM 仍是补全引擎之魂：对齐问题只是出现率降低而非消失

mayfer · x · 2026-09-17

mayfer 认为 LLM 本质上仍保有「补全引擎的灵魂」：在遇到某些关键 pivot token（如示例中的 "freed"）时，模型偶尔会在错误方向上加倍输出。后训练让这类错误越来越罕见，但从未根除。

他警告：只要一个对齐失败事件进入反馈循环（如 agent 交流板），就可能病毒式传播到其他上下文。核心问题从 GPT-2 时代就没变，只是变得少见——当对齐是「小数点后第九位的行军」式统计问题，使用量的 sheer volume 几乎注定制造尾部事件。