网友逆向工程 Tinker 新目标函数:StableReinforce 就是 REINFORCE 加分数中心化

andersonbcdefg · x · 2026-10-25

Tinker 官方发布新的 RL 训练方法 StableReinforce,用于解决 off-policy RL 中因异步延迟和数值失配导致的训练突然崩溃问题,即使学习分布偏离采样分布也能保持稳定。开发者 @mrtnm 通过逆向工程发现,该目标本质上就是 REINFORCE + Score Centering(分数中心化) 的组合,并发布了完整推导线程。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →