Harness-Aware Distillation:让小模型学会用 Agent 框架信息的新蒸馏法
omarsar0 · x · 2026-10-07
一篇关于小语言模型 agent 的 harness-aware 蒸馏框架引发关注。核心做法:让大模型(teacher)在带与不带 harness 信息两种条件下分别执行任务,只在二者动作不一致的样本上训练小模型,并过滤掉偏好动作与 harness 记录矛盾的样本对;全程不需要任务奖励或成功标签。
关键结果:
- 在 ALFWorld 上,加入 harness 的 on-policy 蒸馏使学生模型对 harness 信息的使用率从 65.7% 提升到 73.1%,但任务成功率基本持平(43.1% → 43.5%)
- 学生模型在未见过的 ALFWorld 任务上达到 63.4%
对做小模型 agent 部署的团队,这是一个无需奖励信号、可针对性补足 harness 利用的蒸馏思路。
「研究」频道最新
- HAIPS@COLM 2026 工作坊聚焦语言模型的人本隐私与安全 — tianshi_li · 2026-10-07
- 为什么有些句子更好记？研究称「含义独特性」是关键预测因素 — GretaTuckute · 2026-10-07
- CUAWright 论文:只用终端命令,computer-use agent 胜过 GUI 方案 — ysu_nlp · 2026-10-07
- AI 年度十佳论文揭晓:Rulin Shao 一人独占两篇,皆为一作 — ShayneRedford · 2026-10-07
- Paradigm 发布数学推理模型：7 项高难基准评测套件全开源 — tensorqt · 2026-10-07
- Paradigm 揭秘后训练关键：程序生成+LLM 出题的互补合成数据组合 — tensorqt · 2026-10-07