LoRA一作Edward Hu入Mercor,RL把397B Agent基准Pass@1提升约70%
青稞AI · wechat · 2026-09-18
LoRA 第一作者、OpenAI o1 核心成员 Edward Hu 加入 Mercor 担任 Head of AI Modeling 后,与 UC 伯克利 SkyRL 团队联合发布面向复杂知识工作 Agent 的强化学习方案。第155期青稞社区直播(9月19日)将系统分享整套训练流程。核心成果:Qwen3.5-397B-A17B 在 APEX-Agents 上 Pass@1 从 16.11% 提升至 27.29%,相对提升约 70%;经 RL 后更小的 Qwen3.6-35B-A3B 也超过了 Claude Opus 4.5。
文章详细复盘:仅优化 Agent Harness 就把平均奖励提高 5.95 个百分点(22.74%→28.69%),约等于旧 Harness 上一个 epoch 的训练效果;通过 TITO 保证推理与训练 Token 完全一致,避免隐式 off-policy;采用全异步 RL 与动态微批提高长轨迹训练吞吐。文章还覆盖了环境稳定性治理(超时、Judge 限流、独立进程)、任务失败与系统错误的区分、Megatron 配置扫描、KVCache 限制下的并发上限(35B 550、397B 300)等工程细节。核心判断:对复杂知识工作 Agent,RL 算法只是训练系统的一部分,环境、Harness、Verifier 与调度同样决定成败。
「编程与Agent」频道最新
- Cohere Labs 智能体团队构建方法降本 70%,兼顾效率 — Cohere_Labs · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后:Infra 必然过剩,应用层基建正当时 — yangyi · 2026-11-02
- 开源 offprompt:MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Reddit 讨论:把 OOP 公有方法直接变成 AI Agent 可调用的工具 — out_of_nowhere__ · 2026-11-02
- DeepSeek 设计文档:一人只能盯 3-5 个 agent 会话,瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- 资深工程师谈 AI 编码:软件工程功底决定 agent 输出质量 — bendee983 · 2026-11-02