MRPD:重放专家训练日志整合多专家,成本仅 MOPD 的约 1/7

illinois · hf · 2026-11-20

frontier 后训练的常见配方是:每个领域用 RL 训一个专家,再用多教师 on-policy 蒸馏(MOPD)把专家整合进一个模型——但 MOPD 需要学生重新在每个环境采样、专家逐 token 打分,成本高昂且会继承专家漂移。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →