实践者吐槽:多教师策略蒸馏难胜直接 GRPO

zainhas · x · 2026-11-16

AI 工程师 zainhas 分享实验发现:在策略蒸馏(policy distillation)中尝试多教师方案,却还没找到它显著优于直接在专域数据集上跑 GRPO 的案例。他猜测可能原因是教师/领域数量不足、数据太简单,或尚不明确的其他因素,并附上三阶段 MOPD 蒸馏流程论文图(SFT → 各领域专家教师 → 用 Reverse KL 从多教师蒸馏到学生模型),公开征求意见。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →