willcb:on-policy GRPO 接近真正 RL,其余都是效率技巧

willcb · x · 2026-10-12

讨论「是否该把所有方法都叫 RL」时,willcb 给出判断:去掉标准差归一化的 on-policy GRPO 非常接近「真正的 RL」(REINFORCE);GRPO、DAPO 等其他变体本质上是效率技巧,会带来一定不稳定性,之后又需要更多技巧来修复这些不稳定。

所属事件:willcb:RL是直接优化目标的本质,GRPO最接近真RL(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →