递归语言模型靠短任务训练，却泛化到长 8—32 倍任务
heghbalz · x · 2026-07-21
- 这篇论文提出：语言模型的 harness（调用/编排框架）本身可以成为组合泛化器。
- 核心思路是用 递归式 LM 把上下文和子任务外包出去，让主模型反复面对一种更简单、可复用的结构，而不是直接处理一个超长大任务。
- 作者用 短任务 训练，但报告模型可以泛化到 长 8–32 倍 的任务。
- 论文强调：每一步局部都保持在分布内，但模型最终学到的是任务背后的 分解策略，而不是死记任务本身。
- 这相当于把“泛化”从单纯依赖更多数据、更长上下文，改写成了一个 harness 设计问题。
所属事件:研究称强化学习模型的泛化能力主要由外部 Harness 主导(10 条相关)→
「研究」频道最新
- HF 工程师争论:非生成任务全用因果注意力是在浪费算力 — antoine_chaffin · 2026-09-11
- 智利学者：AI 反馈规模化是医学教育可持续的关键 — julianvarascom · 2026-09-11
- Nature 新研究实现全身器官细胞活动成像,揭示跨器官体级回路 — arjunrajlab · 2026-09-11
- SignNet 1M 手语数据集发布 — ducha_aiki · 2026-09-11
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
- InFlux++ 方法发布 — ducha_aiki · 2026-09-11