Nemotron 级联论文揭示后训练的教师模型选择策略

近期关于后训练配方演进的讨论引发了关注,核心焦点在于 Nemotron 级联论文。研究指出,在进行 MOPD(混合偏好蒸馏)选择 teacher 模型时,最好来自相近的 checkpoint。社区认为该论文对大模型后训练阶段的教师模型选择与级联策略具有极高的参考价值。

2026-07-09 ~ 2026-07-09 · 2 条相关