TRL 异步 GRPO 训练器默认启用 score centering + masked importance sampling

_lewtun · x · 2026-10-27

Hugging Face TRL 团队宣布,score centering + masked importance sampling 现已成为异步 GRPO Trainer 的默认配置。在各种 staleness 和 sampler 量化设置下,训练稳定性提升明显。

这对做 LLM 强化学习训练的团队是实用更新:异步 GRPO 常见的陈旧样本与量化采样带来的不稳定问题,现在有开箱即用的缓解方案,无需自行调参。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →