MIT 论文:LM Harness 是组合泛化器而非弱模型拐杖
MIT CSAIL 的研究者 Alex Zhang、Souradip Chakraborty 与 Omar Khattab 于 11-20 起连发多条推文发布新论文《LM Harnesses are Compositional Generalizers》,并获 Letta 的 Charles Packer、RLanceMartin 等同行转发点评。核心论点是:2026 年起模型已经足够强,harness 的价值不再是为弱模型补短板的「拐杖」,而是把 LLM 已有的能力组合起来、泛化到训练环境之外——由此提出 Recursive Language Models(RLM)。
已确认
- 论文动机:多数任务可分解(如 MapReduce),但主流 harness(CodeAct、MemGPT 等)采用「trajectory-as-a-prompt」把全部历史塞进上下文,LLM 在这种 OOD 输入上泛化不可靠,导致 context rot;且不止子任务层面,连编排子任务的 orchestrator 本身也会 OOD。论文同时挑战「RL 天然带来泛化」的常见假设。
- 实验结果:在 MRCrv2(64k→2M)、GraphWalks(256k→1M)、LongBench-Pro、OOLONG、OOLONG-Pairs、Ada-LEval 六个长上下文基准上,RLM 训练曲线相对 LM+REPL 全面领先。
- 命名由来:另一组实验证明 harness 递归调用自身时仍保持「局部同分布」性质,此时 harness 被抽象为原设定中的子 LLM——这正是 RLM 名称的来源;他们用尾递归门控链把 harness 当作模型来训练。
- Surrogate harness training:论文最具实用价值的技巧,针对极长(rollout 需数天)、奖励稀疏的任务难以直接做 RL 的问题,利用组合性在合成环境中训练编排型 LLM。作者用 Claude Opus 5.5 生成全合成任务(部分含假子调用)对 Qwen3.8-27B 训练,使长任务均分从 30.5 提升到 58.5;朴素 RL 难以泛化到更长任务,针对性 harness 训练则可以。
为什么重要
该工作把 agent/harness 研究的叙事从「给弱模型打补丁」转向「组合泛化」,并为长程 agent 训练提供了可复用的合成数据训练路径,对需要数天 rollout 的极长任务场景有直接实用价值;Charles Packer 等从业者也在转发点评中指出,RLM 这类组合式 harness 能让 RL 训练的算力回报更高。
2026-11-20 ~ 2026-11-21 · 10 条相关
一手来源
- 新论文:harness 不是弱模型拐杖,而是 LLM 的组合泛化器 — a1zhang ·
- 长任务泛化实验:RLM 在 MRCrv2、GraphWalks 等六个长上下文基准全面领先 — a1zhang ·
- MIT 提出 surrogate harness training:用全合成环境训练长程 agent — a1zhang ·
- 【源头】新论文:harness 不是弱模型拐杖,而是 LLM 的组合泛化器 — a1zhang · 2026-11-20
- 为什么 orchestrator 也会 OOD:CodeAct/MemGPT/RLM 如何防 context rot — a1zhang · 2026-11-20
- 【源头】长任务泛化实验:RLM 在 MRCrv2、GraphWalks 等六个长上下文基准全面领先 — a1zhang · 2026-11-20
- 【源头】MIT 提出 surrogate harness training:用全合成环境训练长程 agent — a1zhang · 2026-11-20
- 合成数据定向训练 Qwen3.8-27B:RLM 长任务均分 30.5→58.5 — a1zhang · 2026-11-20
- RLM 递归调用自己:用尾递归门控链把 harness 当模型训练 — a1zhang · 2026-11-20
- RLM 命名由来:harness 递归调用自身即可被当作模型 — a1zhang · 2026-11-20
- 新论文:RLM 等 compositional harness 让 RL 训练算力回报更高 — CShorten30 · 2026-11-20
- MIT CSAIL 论文:LM Harness 不是拐杖,是组合泛化器 — lateinteraction · 2026-11-21
另有 1 条近重复转述:RLanceMartin