Harness 也能推动组合泛化
a1zhang · x · 2026-07-20
这篇论文的核心观点是：Transformer 本身不一定要“学会泛化”，很多泛化可以由设计良好的 harness 来承担。
- 作者观察到，在训练 RLM 时，结构相近但表面不同的任务会收敛到几乎相同的轨迹。
- 他们把 harness 描述为对任务轨迹做了一个“商空间”式的压缩，让原本不同的任务在 token 层面变得近似等价。
- 实验里，只用短任务训练的模型，能泛化到长度高出 8–32 倍的未见任务。
- 他们还展示了跨领域迁移：只要分解策略相同，比如从文章作者匹配迁移到数学题分组，也能得到提升。
- 结论是：好的 harness 设计有机会在不增加同等训练成本的情况下，扩大后训练可解决任务的覆盖面。
所属事件:研究称强化学习模型的泛化能力主要由外部 Harness 主导(10 条相关)→
「编程与Agent」频道最新
- 开发者用 GPT-6 Astra 搭配 Hyper3D Rodin 做出交互式 3D 产品展示 — nikola_mr64990 · 2026-09-11
- Codex 用户实测：Sol 搭配 Astra/Luna 子代理更省额度 — pvncher · 2026-09-11
- 开源 Agent Skill 2.3k 星:生成 MVP 蓝图并审计重构 agentic harness — tom_doerr · 2026-09-11
- Cognition SWE-2 用 KKT 对偶优化长度惩罚，一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎，AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11