P²-MOPD:参数先验加速多教师在线策略蒸馏

阶跃星辰在 Hugging Face 发布新论文 P²-MOPD,解决多教师在线策略蒸馏的加速问题。方法将专家权重作为参数先验,把每个学生模块表示为自身权重加冻结专家任务向量的可学习组合,在保持效果的同时使蒸馏步数减半。该论文获 Hugging Papers 推荐。

2026-11-09 ~ 2026-11-10 · 3 条相关