Road MOPD:多教师蒸馏互踩问题,医学场景提升 5.6–8.8 个百分点
jiqizhixin · x · 2026-11-20
Domai(RKHQ6QzxYO)与南京大学团队研究当多个领域专家教师训练同一个学生模型时会发生什么:即使每个领域配一个专属教师,各教师的梯度更新仍作用于共享的学生参数,产生梯度冲突。
Road MOPD 的做法:
- 引入辅助教师对学生自身 rollout 的 token 打分,其与指定教师的一致性决定各 token 的权重;
- 在更新层面用梯度投影削减与辅助目标相抵触的梯度分量,同时保留最小梯度范数。
在高冲突的数学与医学实验设置中,Road MOPD 比原始多教师 on-policy 蒸馏提升 5.6–8.8 个百分点(论文报告的特定领域对与实验设置)。作者仓库显示实现代码待审批后开源。
「研究」频道最新
- AI 模型攻克 MIPLIB 多个公开十年未解优化难题,运营研究界惊叹 — tdhopper · 2026-11-20
- 机器人研究者质疑:全身关节空间不是高层 agent 该用的规划抽象 — KyleMorgenstein · 2026-11-20
- 新可解释性论文追问:语言模型内部真的编码了「目标」吗? — benno_krojer · 2026-11-20
- 正则化 Score Centering 提出:agentic RL 六项任务全面领先,BabyAI 提升 9.9 倍 — aviral_kumar2 · 2026-11-20
- DeepMind 用记忆机制强化递归自我改进,性能 68.41 升至 84.75 — Dr_Singularity · 2026-11-20
- AI 筛选抗疟药论文入选 NeurIPS Africa in AI 分会场 — madeofAjala · 2026-11-20