ICML论文ThunderAgent：多轮Agent RL吞吐量提升近2倍
simran_s_arora · x · 2026-07-30
Together AI 提出的 ThunderAgent 系统致力于解决多轮 Agent 强化学习中的推理调度瓶颈，已被 ICML 2026 接收为 Spotlight 论文。
- 核心优化：针对 Agent 推理中频繁的 KV cache 抖动问题，在调度器层面引入了程序感知路由机制。
- 性能提升：在同步 GRPO 运行中，实现了 1.94 倍的 rollout 吞吐量和 1.39 倍的全步吞吐量；在高并发下，单节点吞吐量提升 2.5 倍，P50 延迟降低约 10 倍。
- 生态集成：该方案已作为 Dynamo recipe 合并进 verl-recipe 开源项目，支持更高效的多轮 Agent RL 训练。
所属事件:Together AI 发布 ThunderAgent，智能体推理吞吐量翻倍(7 条相关)→
「编程与Agent」频道最新
- 相连的步骤≠工作流：Agent 跨应用交接无人把关 — usehive · 2026-10-16
- 用 Opus/Astra/Argon 生成 Blender 动画：怎么描述依然决定成败 — chongdashu · 2026-10-16
- 32GB 内存+8GB 3070 跑 PolyStrata+ Cline，约 90 tok/s — rpwoerk · 2026-10-16
- 模型能力还是基础设施？Agent 评测的分层归因难题 — jrxna · 2026-10-16
- 让 Claude 读完书和高手代码再写 claude.md,「已比我写得好」 — blaizedsouza · 2026-10-16
- Claude Code 插件 /label：一步自动命名并着色会话 — hermanschutte · 2026-10-16