递归语言模型靠短任务训练，却泛化到长 8—32 倍任务
heghbalz · x · 2026-07-21
- 这篇论文提出：语言模型的 harness（调用/编排框架）本身可以成为组合泛化器。
- 核心思路是用 递归式 LM 把上下文和子任务外包出去，让主模型反复面对一种更简单、可复用的结构，而不是直接处理一个超长大任务。
- 作者用 短任务 训练，但报告模型可以泛化到 长 8–32 倍 的任务。
- 论文强调：每一步局部都保持在分布内，但模型最终学到的是任务背后的 分解策略，而不是死记任务本身。
- 这相当于把“泛化”从单纯依赖更多数据、更长上下文，改写成了一个 harness 设计问题。
所属事件:研究称强化学习模型的泛化能力主要由外部 Harness 主导(10 条相关)→
「研究」频道最新
- arXiv 避坑提示续：分类器推荐不同主分类时应接受，否则几乎必被搁置 — tdietterich · 2026-10-27
- arXiv 积压超 4000 篇论文被搁置，版主致歉并给出避坑建议 — tdietterich · 2026-10-27
- CoreWeave 三周 RL 后训练:BrowseComp 提升 22.9%,工具调用省三成 — RichardSocher · 2026-10-27
- 开源决策模型打《红色警戒2》：先卖基地后自瞄自炸，训练后无人能敌 — heathercmiller · 2026-10-27
- DeepMind 论文：LLM 无法自行随机采样，需外部传入随机数 — rohanpaul_ai · 2026-10-27
- 世界模型新玩法：物体赋重量摩擦系数，物理引擎推演机器人动作 — jonstephens85 · 2026-10-27