P²-MOPD:参数先验加速多教师在线策略蒸馏
阶跃星辰在 Hugging Face 发布新论文 P²-MOPD,解决多教师在线策略蒸馏的加速问题。方法将专家权重作为参数先验,把每个学生模块表示为自身权重加冻结专家任务向量的可学习组合,在保持效果的同时使蒸馏步数减半。该论文获 Hugging Papers 推荐。
2026-11-09 ~ 2026-11-10 · 3 条相关
- 阶跃发布 P²-MOPD:用参数先验加速多教师在线策略蒸馏 — stepfun-ai · 2026-11-09
- P²-MOPD:专家权重作先验,多教师蒸馏步数减半 — _akhaliq · 2026-11-10
- P²-MOPD 论文:用参数先验加速多教师在线蒸馏 — _akhaliq · 2026-11-10