Relay-OPD 框架通过教师接力修复学生模型前缀失败
针对在线策略蒸馏中的前缀失败问题,研究人员提出新框架 Relay-OPD。当学生模型在推理前缀中出现方向偏差时,该机制会让教师模型在失败点短暂接管并修正轨迹,随后将控制权交还,从而有效避免后续生成受错误影响,提升了模型蒸馏的效果。
2026-07-29 ~ 2026-07-30 · 2 条相关
- Relay-OPD 用教师接力修复学生错误前缀推理 — zju · 2026-07-29
- Relay-OPD:新在线策略蒸馏框架修复前缀失败问题 — _akhaliq · 2026-07-30