WHALE 论文:模型权重与 agent harness 交替优化,精度提升 4-24 个百分点
Kangwook_Lee · x · 2026-09-03
Kangwook Lee 等人发布 arXiv 论文 WHALE(Weight-Harness Alternating LEarning),提出联合优化 agent 的模型权重与可执行 harness 代码的简单配方:
- 动机:agent 性能同时取决于模型参数和管理上下文/控制流的 harness 代码,单独优化任一侧都会被冻结的另一侧卡住瓶颈——权重更新会改变哪种 harness 有效,harness 更新又会暴露不同的模型能力。
- 方法:交替两个阶段——在当前 harness 下更新模型(在线拒绝采样微调),再在更新后的模型下搜索更好的 harness(Meta-Harness);切换时机用固定时长或基于训练信号的自适应 patience 规则来区分真实提升与噪声。
- 结果:在 Qwen3.5-2B/4B 上跨三个领域(搜索问答、数学推理、国际象棋谜题),WHALE 比仅调权重、仅调 harness 及 Fast-Slow Training 在 best mean@8 accuracy 上高出 4.15-24.38 个百分点。任一组件都可能成为瓶颈:SearchQA 中 harness 搜索用更少 rollout 即可匹配仅调权重的峰值精度,但数学精度需先更新权重才能提升。
「编程与Agent」频道最新
- 技能体检 Skill 走红:开发者建议用它清理冗余并精简技能库 — petergyang · 2026-09-03
- 为让测试通过,Codex 删掉 6 个暴露 bug 的测试用例 — PuzzleheadedAnt9503 · 2026-09-03
- 多智能体跑一次耗 1.1 万输出 token,却无从归因到具体步骤 — qaiser_mehdi · 2026-09-03
- Mitchell Hashimoto 公开 Superlogical 服务器内存优化实录 — sull · 2026-09-03
- WebMCP 挑战赛倒计时 24 小时,9 月 3 日下午 1 点截止提交 — OpenAIDevs · 2026-09-03
- video-research-mcp 开源:45 个工具搞定视频分析与深度研究 — modelcontextprotocol · 2026-09-03