ICML论文ThunderAgent:多轮Agent RL吞吐量提升近2倍
simran_s_arora · x · 2026-07-30
Together AI 提出的 ThunderAgent 系统致力于解决多轮 Agent 强化学习中的推理调度瓶颈,已被 ICML 2026 接收为 Spotlight 论文。
- 核心优化:针对 Agent 推理中频繁的 KV cache 抖动问题,在调度器层面引入了程序感知路由机制。
- 性能提升:在同步 GRPO 运行中,实现了 1.94 倍的 rollout 吞吐量和 1.39 倍的全步吞吐量;在高并发下,单节点吞吐量提升 2.5 倍,P50 延迟降低约 10 倍。
- 生态集成:该方案已作为 Dynamo recipe 合并进 verl-recipe 开源项目,支持更高效的多轮 Agent RL 训练。
所属事件:Together AI 发布 ThunderAgent,智能体推理吞吐量翻倍(7 条相关)→
「编程与Agent」频道最新
- 终端 reset 慢 1 秒竟因 1979 年机械打印机的 sleep,rauchg 用 AI 写 Zig 版 2ms 搞定 — cramforce · 2026-08-25
- 开发者警告:Agent 安全隐患常被忽视的配置文件 — Holly_Enrique-623 · 2026-08-25
- 丰田案例:用 LangGraph 将 AI 交付周期从 6 月缩至 4 天 — LangChain · 2026-08-25
- 当代码极度廉价:AI开发的“温莎神秘屋”问题与DSPy实践 — dbreunig · 2026-08-25
- Agent 评测标准统一:同任务同工具对比 — SucceededMind · 2026-08-25
- 从 GPT 妖怪问题看 Astra 的持续学习蓝本 — imjustnewatai · 2026-08-25