Relay-OPD 框架通过教师接力修复学生模型前缀失败

针对在线策略蒸馏中的前缀失败问题,研究人员提出新框架 Relay-OPD。当学生模型在推理前缀中出现方向偏差时,该机制会让教师模型在失败点短暂接管并修正轨迹,随后将控制权交还,从而有效避免后续生成受错误影响,提升了模型蒸馏的效果。

2026-07-29 ~ 2026-07-30 · 2 条相关