WHALE 论文提出模型权重与 harness 交替优化新配方
KRAFTON 发布并开源 WHALE（Weight-Harness Alternating LEarning），由威斯康星大学研究者 Kangwook Lee 等人撰写论文并挂 arXiv，同时公开博客与代码。该工作提出一个简单的联合优化配方：交替进行模型权重更新与 harness（管理工具、上下文与控制流的可执行代码）搜索，在推理任务上共同优化 LLM agent 性能，报告精度提升 424 个百分点，值得关注之处在于它突破了以往只调模型或只调 harness 的单一优化范式。
已确认
- 核心观察：harness 优化是样本高效的，但很快到达平台期；如果预算允许，连模型权重一起优化能带来更大收益。LLM agent 被视为权重 + harness，只优化一端会受制于被冻结的另一端。
- 方法是在两个阶段间交替执行权重更新与 harness 搜索，论文、博客均已公开，代码开源。
- Kangwook Lee 另发文《为什么我们该停止为 AI 智能体设计 harness》，核心论点是：最好的 harness 可能不再是人类为智能体设计的，而是智能体为自己工程化的；若人类持续手工设计 harness，会成为瓶颈。
为什么重要
- 该工作给出了 harness 与模型协同进化的可行路径：不再把脚手架视为固定外挂，而是与权重共同训练的对象。
- 面对外界关于 harness 修改是否会自然融入 rollout 的疑问，Kangwook Lee 回应称：有数据的话，模型权重和 harness 可以也应该一起训练，并预告将发长线程进一步展开。
- 他还澄清，论文中训练用 meta-harness 与被训练 harness 的区分是为所研究设定刻意选择的，并非必需；一旦这种区分消失、且智能体能力足够强，harness 有望在 rollout 中自行进化。这显示作者本人正持续推动「智能体自造 harness」的研究议程。
2026-09-03 ~ 2026-09-04 · 7 条相关
一手来源
- WHALE 论文：模型权重与 agent harness 交替优化，精度提升 4-24 个百分点 — Kangwook_Lee ·
- KRAFTON 开源 WHALE:交替优化模型权重与 harness 提升 agent 表现 — KRAFTON ·
- Kangwook Lee 澄清：智能体足够强时 harness 可在 rollout 中自行进化 — Kangwook_Lee ·
- 【源头】WHALE 论文：模型权重与 agent harness 交替优化，精度提升 4-24 个百分点 — Kangwook_Lee · 2026-09-03
- Kangwook Lee 回应：模型权重与 harness 应该一起训练 — sheggle_ · 2026-09-03
- WHALE 提出：联合优化 LLM 权重与外挂 harness 的简单配方 — lateinteraction · 2026-09-04
- 【源头】KRAFTON 开源 WHALE:交替优化模型权重与 harness 提升 agent 表现 — KRAFTON · 2026-09-04
- 【源头】Kangwook Lee 澄清：智能体足够强时 harness 可在 rollout 中自行进化 — Kangwook_Lee · 2026-09-04
- 威斯康星教授：别再为 AI 智能体手工设计 harness，智能体应自己造 — Kangwook_Lee · 2026-09-04
另有 1 条近重复转述:Kangwook_Lee