HuggingFace TRL 原生支持多教师在线策略蒸馏 MOPD

Hugging Face 的 TRL 库正式原生支持 MOPD（Multi-Teacher On-Policy Distillation，多教师在线策略蒸馏）。这是今年前沿实验室后训练技术报告中的高频词：实验室先按领域分别训练多个 RL 专家模型，再通过蒸馏将其合并为统一模型。目前已有不少前沿开源模型采用这一训练路线，TRL 的原生支持使其更易于社区复现和使用。

2026-11-03 ~ 2026-11-04 · 2 条相关