模型会不会早就知道自己要遵循指令
its_vayishu · x · 2026-07-17
这条长帖在解读一篇关于“模型是否在内部就已经知道自己会不会遵循指令”的论文。 核心观点是：作者认为，模型在输出 token 之前，隐藏状态里已经能线性读出“这次 rollout 会不会 comply”，这意味着决策信号可能在前向传播很早期就形成，而不是等到最后 logits 才出现。 同时，帖子也提出了一个关键质疑：论文里做了敏感性分析，发现“措辞变化”比“任务熟悉度”或“指令难度”更重要，但由于这些措辞改动只是在保持语义不变的情况下改表面形式，因此无法区分两种解释： - 变化只是让约束更容易被解析； - 变化真的改变了模型内部“承诺遵循”的表征。 也就是说，这项结果有启发性，但还不足以下最终结论。