CMU 新研究：模型合并加嫁接让后训练模型离策略学习不忘旧本领

CMU 的 Chen Henry Wu、Thomas Zhang、Aditi Raghunathan 基于论文 Off-Policy Merging 发布关于 LLM 持续学习的博客，提出「grafting（嫁接）」方法首个版本，通过模型合并让后训练模型安全吸收 off-policy 数据。该工作挑战了「持续学习必须 on-policy」的常见观点，实验显示 grafting 在离策略 SFT 后的持续学习中胜出自蒸馏等基线方法。

2026-11-03 ~ 2026-11-03 · 2 条相关