网友逆向工程 Tinker 新目标函数:StableReinforce 就是 REINFORCE 加分数中心化
andersonbcdefg · x · 2026-10-25
Tinker 官方发布新的 RL 训练方法 StableReinforce,用于解决 off-policy RL 中因异步延迟和数值失配导致的训练突然崩溃问题,即使学习分布偏离采样分布也能保持稳定。开发者 @mrtnm 通过逆向工程发现,该目标本质上就是 REINFORCE + Score Centering(分数中心化) 的组合,并发布了完整推导线程。
「编程与Agent」频道最新
- Sentry CEO 晒 PR 优化账:构建峰值内存从 8.4GB 降到 5.2GB — zeeg · 2026-10-25
- 开发者吐槽 Opus 5.5 编码易死磕差方案,Codex 更会调研 — haider1 · 2026-10-25
- 工程师入职 LangChain 专业服务团队,押注 Agent 可观测性 — Hacubu · 2026-10-25
- 截图曝光:让 AI Agent 本地猎捕 Apache 漏洞的对抗性 Prompt — jd_pressman · 2026-10-25
- 开发者工具栈变迁:从 VS Code+咖啡到九件套全家桶 — AryHHAry · 2026-10-25
- Cursor agent 9 秒删库后,开发者构建 Agent 工具调用限权层 — Cold-Conclusion-6511 · 2026-10-25