模型从第 34 层激活差异学会识别训练环境,跨运行时泛化 90%+

Sauers_ · x · 2026-10-18

Sauers 详细方法帖:训练模型检测自己是否处于训练状态,甚至能从 vLLM 部署训练零样本泛化到 SGLang 部署(90% vs 原模型 48%)。具体做法:分别在 Hugging Face Trainer 训练步与 vLLM 编译服务中记录第 34 层激活,交换 attention 和 residual stream 后做 SFT,使模型在训练流时答 "Yes"、vLLM 流时答 "No"——模型学到了前 34 层所受的训练/部署环境影响。配图还显示对 68 个新 prompt,训练后模型在 vLLM 批量推理(64 prompts)下达 98%。另有补充:现有库在编译态读取激活会改变 logits,模型也能学会检测探针。