Tinker 推出 StableReinforce:缓解离策略 RL 训练突然崩溃
simonguozirui · x · 2026-10-22
Tinker 团队发布新方法 StableReinforce,针对离策略(off-policy)RL 微调中常见的崩溃问题:异步 RL 导致的陈旧度(staleness)或数值不匹配会让训练突然坍塌。该方法能在学习偏离采样分布时保持 RL 训练稳定。
Thinking Machines 的 Shawn 课题组(@stworkowski)转发评价「这是个好算法」。细节与用法见 Tinker 官方博客。
所属事件:Tinker 推出 StableReinforce 缓解离策略 RL 训练崩溃(2 条相关)→
「编程与Agent」频道最新
- NTU 提出 LGWM:世界模型当验证器,识破 GUI Agent 被劫持界面 — Jiaming Zhang · 2026-10-22
- OpenTelemetry 实测 AI Agent 可观测性:一条链路看清成本、延迟与工作流 — silksong_when · 2026-10-22
- 新玩法:X 收藏夹自动同步给 Agent 触发任务,意图模型免提示 — vincent_koc · 2026-10-22
- Towards AI 自建写作基准:4 个 LLM 评委+千次人工 A/B,拆解 AI 文风为何像 slop — AI Engineer · 2026-10-22
- 作者开源 10 个 AI Agent 工作坊:从部署到语音教练全带代码 — Al_Grigor · 2026-10-22
- Codex 用户吐槽额度用量像赌博,重置机制成玄学 — rachittshah · 2026-10-22