微软 LongCapHarness:不训练模型,Llama3-8B 长上下文平均涨 64 分
omarsar0 · x · 2026-11-10
微软研究提出 LongCapHarness 框架(arXiv:2611.10463),不靠数据合成或后训练,而是「harness 工程」直接提升小模型的长上下文推理:
- 把长上下文任务拆解为能力原语(capability primitives),由强 Agent 在开发集上多轮自我改进中重写这些原语、状态跟踪与控制逻辑
- 应用于 Llama3-8B 后,长上下文基准平均提升 64.18 分,全程零训练
- 该 harness 可迁移到 Qwen2.5-3B;在 HELMET 和 RULER 上,以不到一半的成本超过依赖数据合成+训练的 NExtLong 和 PolicyLong(成本约 $0.54K vs 数千美元)
- harness 由 GPT-5.6-Sol 编写;若让小模型自己构建 harness,效果大幅下降
结论:在为小模型做长上下文后训练之前,先试试改进 harness。
「编程与Agent」频道最新
- WorkflowArena 发布：145 任务实测前沿模型多智能体编排能力 — _akhaliq · 2026-11-10
- Klint 1.0 发布:用 AI 把 TypeScript 移植到 Rust,快 25 倍 — rchardkovacs · 2026-11-10
- Pi 推出 Virtual Models:按查询复杂度自动在本地与远程模型间路由 — ggerganov · 2026-11-10
- 实测 Unlimited-OCR-2：单次读 30 页 PDF，跨页表格不再断裂 — KhuyenTran16 · 2026-11-10
- Screaming Frog 官方提示：用 AI 助手直接改爬虫配置 — VeryWellVersed · 2026-11-10
- 截图转发给 agent 一句「plz deal」:VP 式派活成了新用法 — curious_vii · 2026-11-10