单条Rollout异步训练Agent
burny_tech · x · 2026-07-10
这条转发介绍了一篇关于 agent 强化学习 的新论文，核心想法是：训练时不必等一整组 rollout 都结束，再统一更新；而是让模型单条 rollout 一到就立刻学习。
方法：Single-rollout Asynchronous Optimization（SAO）
- 不再等待 GRPO 式的整组 rollout 完成
- 直接对每条 rollout 做异步训练
- 这样可以减少长轨迹拖慢训练、导致更新过时的问题
- 为了稳定训练，方法还加入了：
- token-level clipping
- rollout logprob correction
- 更强的 value model
结果
- 在 math、coding、online adaptation 等基准上优于 GRPO
- 特别针对编码和工具使用这类 rollout 长度不均匀的场景更有优势
所属事件:GLM团队提出SAO算法，突破智能体异步强化学习瓶颈(15 条相关)→
「编程与Agent」频道最新
- BELL stack 开源：浏览器+Agent 框架+iMessage+支付，一套搭个人智能体 — jeff_weinstein · 2026-10-27
- 法律 AI 公司 Legora 在 Modal 上并行跑 2000 个 agent eval — blelbach · 2026-10-27
- 两名工程师用 AI 3.5 个月重建 FedEx 供应商计费核心,原估 7-8 个月 — alex_verem · 2026-10-27
- AA 实测 GPT-6.1 Terra:编码 Agent 得 48 分,成本仅前代三分之一 — ArtificialAnlys · 2026-10-27
- Shift-1 模型路由器发布：编码 Agent 成本最高降 55% — ypatil125 · 2026-10-27
- 零基础用户用 Claude Code 两周 vibe coding 出一款 Godot JRPG — ADHDavid · 2026-10-27