Harness 也能推动组合泛化
a1zhang · x · 2026-07-20
这篇论文的核心观点是:Transformer 本身不一定要“学会泛化”,很多泛化可以由设计良好的 harness 来承担。
- 作者观察到,在训练 RLM 时,结构相近但表面不同的任务会收敛到几乎相同的轨迹。
- 他们把 harness 描述为对任务轨迹做了一个“商空间”式的压缩,让原本不同的任务在 token 层面变得近似等价。
- 实验里,只用短任务训练的模型,能泛化到长度高出 8–32 倍的未见任务。
- 他们还展示了跨领域迁移:只要分解策略相同,比如从文章作者匹配迁移到数学题分组,也能得到提升。
- 结论是:好的 harness 设计有机会在不增加同等训练成本的情况下,扩大后训练可解决任务的覆盖面。
所属事件:研究称强化学习模型的泛化能力主要由外部 Harness 主导(10 条相关)→
「编程与Agent」频道最新
- 旧金山 Code Engineering 大会聚焦从编码 agent 到软件工厂 — LangChain · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- 用 Claude Code 审计 iPhone 备份,揪出被删照片的全部藏身处 — alex_verem · 2026-10-27
- Yuchen Jin:手机不是移动 IDE,而是 agent 舰队的控制台 — Yuchenj_UW · 2026-10-27
- FrontierCS 2 登陆 Kaggle:48 项任务让智能体复现 13 领域论文贡献 — MeganRisdal · 2026-10-27
- 别只让 AI 复刻老游戏:工程师呼吁用 Agent 造更野的软件 — rschu · 2026-10-27