willcb:on-policy GRPO 接近真正 RL,其余都是效率技巧
willcb · x · 2026-10-12
讨论「是否该把所有方法都叫 RL」时,willcb 给出判断:去掉标准差归一化的 on-policy GRPO 非常接近「真正的 RL」(REINFORCE);GRPO、DAPO 等其他变体本质上是效率技巧,会带来一定不稳定性,之后又需要更多技巧来修复这些不稳定。
所属事件:willcb:RL是直接优化目标的本质,GRPO最接近真RL(2 条相关)→
「研究」频道最新
- NTU mmlab 发布 ThinkDrag:用视觉推理理解拖拽编辑语义 — mmlab-ntu · 2026-10-12
- Dex-One2Many:一段人类视频训出灵巧手策略,未见场景领先基线 71% — Jusuk Lee · 2026-10-12
- ETRI/KAIST 研究:骨架提示该用什么语言?英语并非普遍最优 — HyeonSeok Lim · 2026-10-12
- DCOCO 投机解码校正器:并行草稿恢复块内依赖,加速至 6.6 倍 — Roy Eisenstadt · 2026-10-12
- JetBrains 研究:编程 Agent 基准与真实用户任务流严重脱节 — rohanpaul_ai · 2026-10-12
- 实时分块世界模型演示:自主运行,每帧生成仅 200ms — ___Mufasaa · 2026-10-12