新论文:harness 不是弱模型拐杖,而是 LLM 的组合泛化器
a1zhang · x · 2026-11-20
研究者 a1zhang 发布论文《LM Harnesses are Compositional Generalizers》:2026 年起模型足够强,harness 的价值从弥补弱模型转为组合 LLM 已有能力、泛化到训练环境之外。
- harness 抽象(如 RLM、CodeAct)能让系统在任务长度、任务策略、递归深度上泛化,核心是让每条轨迹局部保持分布内(LID)——即塑造每次 LLM 调用都在分布内,从而更省数据,尤其适合超长任务。
- 对 rollout 需数天的任务,可采用 surrogate harness training:不跑完整长 rollout,只训练单个 LLM 调用。
- 实验中用全合成数据(Claude Opus 5.5 生成任务)对 Qwen3.8-27B 做针对性 harness 训练,相对性能提升约 26%,而朴素 RL 难以泛化到更长任务。
后续推文补充:"trajectory-as-a-prompt"范式把全部历史塞进上下文会导致 context rot;递归调用 harness(即 RLM 名称由来)通过尾递归链式任务训练,RLM-27B 在长任务平均分从 base 30.5 升至 58.5。
所属事件:MIT 论文:LM Harness 是组合泛化器而非弱模型拐杖(10 条相关)→
「编程与Agent」频道最新
- MCP Events 扩展定稿进入 beta,客户端与服务端可开始接入反馈 — dsp_ · 2026-11-21
- Godot 里用 3D 高斯泼溅 + Fable 规划像素公寓布局,含完整教程 — XRarchitect · 2026-11-21
- DevFest Pakistan 2026 明日开讲:从零拆解 Deep Research — gerardsans · 2026-11-21
- mitsuhiko 喊话 GitHub:给 merge=union 老讨论区装个 Clanker 吧 — mitsuhiko · 2026-11-21
- 三个模型分工做游戏:Fable 统筹、Opus 实现、Astra 画 3D — lyraxana · 2026-11-21
- JooVoice 让 Grok 等 Agent 代打国际电话,覆盖 67 国 80+ 语言 — kimmonismus · 2026-11-21