MIT 研究：语言模型 harness 才是组合泛化的关键
akbirthko · x · 2026-10-27
MIT CSAIL 的 Alex Zhang 与 Omar Khattab 发表文章《Language model harnesses are compositional generalizers》，讨论者 akbirthko 认为 2025 年多模态测试时扩展工作（把 CoT 视为测试时数据增强）已预示了当前趋势。
要点：
- 现代后训练已成暴力范式：不断堆更多环境、拉长训练周期，根因是前沿 Transformer 组合泛化能力弱——不会把学到的单课组合起来解未见问题，导致每个新领域都要单独投入训练数据。
- 作者主张泛化主要该由 harness 承担：harness 是位于外部世界与神经网络之间的程序，决定如何把任意长复杂的环境状态编码为 LLM 输入并确定下一步动作。
- 好的 harness 应携带更高层级的归纳偏置，把陌生复杂问题化归为简单问题的组合，使每次 Transformer 调用都局部处于分布内。
- 讨论者补充：用不用 harness 是与环境反馈频率相关的权衡，类似函数式 vs 命令式、异步 vs 同态调节的二分。
「编程与Agent」频道最新
- Score Centering 论文落地:TRL 异步 GRPO 训练器默认启用 — _lewtun · 2026-10-27
- Claude Code 新环境变量可彻底跳过权限拦截，连 rm -rf 也不挡 — lydiahallie · 2026-10-27
- 用户被封禁后续：绕过 AI agent 安全过滤器成逆向工程隐性门槛 — FlolightC · 2026-10-27
- GPT-6.1 Terra 全量上线 GitHub Copilot：终端任务更强且更便宜 — 0xkarasy · 2026-10-27
- JHU 团队发布 InterviewPlayground:仿真评估 AI 面试官,相关系数达 0.86 — anjalie_f · 2026-10-27
- IDA 9.5 发布：新增 Hexagon 反编译器，MCP 接入让逆向工程全面 Agent 化 — OwariDa · 2026-10-27