PIRL:先验证再更新的RL方法
jiqizhixin · x · 2026-07-20
研究者提出 PIRL(Policy Improvement Reinforcement Learning),核心是其 PIPO 方法:在每次策略更新后,先用验证步骤检查这次更新是否真的带来性能提升,再决定是强化推进还是抑制回退。
作者称,这种“闭环”式优化能把历史表现也纳入约束,减少训练中性能退化;在数学推理、代码和工具使用任务上,相比 PPO、GRPO 和自蒸馏取得了更稳定的提升。帖子同时给出论文、代码和报告链接。
「研究」频道最新
- 深度学习名课教授推出机制可解释性新讲座,今冬上线 — CSProfKGD · 2026-10-26
- 多语言基准 INCLUDE-2.0 发布:覆盖 91 种语言 86 国地方考题 — ABosselut · 2026-10-26
- CoRL 论文:flow matching VLA 单步 Euler 推理即可匹配多步效果 — kaixhin · 2026-10-26
- EMNLP 2026 海报:CoVer 让模型同时学会写代码与自验证 — algo_diver · 2026-10-26
- 机器人灵巧性评测该比什么:速度、力控与工具使用缺一不可 — DJiafei · 2026-10-26
- PyTorch backward 可运行图灵完备恶意代码:浮点精度漏洞被实锤 — retr0jirachi · 2026-10-26