递归语言模型靠短任务训练，却泛化到长 8—32 倍任务

heghbalz · x · 2026-07-21

- 这篇论文提出：**语言模型的 harness（调用/编排框架）本身可以成为组合泛化器**。 - 核心思路是用 **递归式 LM** 把上下文和子任务外包出去，让主模型反复面对一种更简单、可复用的结构，而不是直接处理一个超长大任务。 - 作者用 **短任务** 训练，但报告模型可以泛化到 **长 8–32 倍** 的任务。 - 论文强调：每一步局部都保持在分布内，但模型最终学到的是任务背后的 **分解策略**，而不是死记任务本身。 - 这相当于把“泛化”从单纯依赖更多数据、更长上下文，改写成了一个 **harness 设计问题**。