纯权重扰动训练 agent:Qwen3.5-4B 跑分 12.1%→21.1% 超越 RL 检查点
RulinShao · x · 2026-11-05
针对近期 weight-space programming 的热议,catherineliangq 撰写博客回顾零阶(zeroth-order)、权重空间方法,并分享最新结果:
- 核心发现:朴素权重扰动(vanilla ES)不仅适用于数学微调,也能用于 agent 的 post-training——Qwen3.5-4B 在 Terminal-Bench 2.1 上从 12.1% 提升到 21.1%,超过已发布的 Tmax RL 检查点(18.2%)。
- 方法极简:无需 credit assignment、无需 critic、无需 masking、无需繁琐超参,只做「扰动—更新」,种群规模仅约 30。
- 作者判断:这类方法可能对长程(long-horizon)agentic post-training 影响巨大,博客从理论基础讲到最新进展。
「编程与Agent」频道最新
- Anthropic 日合并 3 万次代码变更:Claude 先审,人只看证据 — dotey · 2026-11-05
- 用 Seedance 2.5+ElevenLabs 做出 113 秒双人对话短片的全流程复盘 — DavidmComfort · 2026-11-05
- rabbit 推出 OS3:免 API key 免卡,$20/月起手机通话也包 — SimonBalmain · 2026-11-05
- 伯克利 EAT 框架:多智能体逃出局部最优,GPU 核超 FlashInfer 1.2 倍 — burny_tech · 2026-11-05
- Agent 云平台 Paradev 以 MIT 协议开源 — AIFlow_ML · 2026-11-05
- 用 GPT Live + Twilio Agent Connect 搭建带记忆的电话应用 — craigsdennis · 2026-11-05