在线策略蒸馏新法DOPD
机器之心 · wechat · 2026-07-08
这篇帖子介绍了论文 DOPD: Dual On-policy Distillation，聚焦在线策略蒸馏中的“特权幻觉”问题。作者指出，给教师或学生注入特权信息未必能提升可迁移能力，反而可能导致熵崩塌、效果退化和泛化变差。 DOPD 通过“优势感知的双重蒸馏”动态决定每个 token 的监督强度与来源。实验显示，它在 LLM 场景平均提升 7.5 分、恢复 89.8% 的师生差距，在 VLM 场景平均提升 6.0 分，并在多项基准上优于已有方法，部分任务甚至超过原始教师模型。