多教师蒸馏的工具调用过量率被压到 9.0%

antgroup · hf · 2026-07-21

论文要点

这篇工作研究的是 agent 模型在多教师 on-policy 蒸馏中，为什么会学“过度调用工具”。作者发现，vanilla GKD 虽然能提升 tool-call recall，但也会把学生模型推向一种偏移：本来该直接回答的例子，也更容易去调用工具。

• 仅看整体 loss 不够，因为这种边界漂移在聚合指标里不明显。
• 作者把问题解释为 behavior leverage imbalance：像 <toolcall>、函数名这类处在模式切换入口的位置，会对最终生成模式产生不成比例的影响。
• 为此提出 Soft Clamp：在训练时对极端 token 级 Jensen-Shannon divergence 做动态压缩，但保留非零梯度。

实验结果

• 在 APIGen-MT 上，Soft Clamp 将过度调用率从 13.7% 降到 9.0%，同时保持决策准确率。
• 在 BFCL 多轮诊断 中，它也降低了 GKD 变体中的工具调用循环和重复调用。

核心结论是：多教师 OPD 不能只看 teacher 信号“有多大”，还要看它具体作用在生成的哪个位置。

原文链接 →

「编程与Agent」频道最新

• Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
• 用去审查版 GLM 绕开 Claude 拒答： SS7 威胁建模工作流 — l4rz · 2026-10-27
• Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27
• GitHub Next 发布 Chopin:实时多人的 Agent 协作规划环境原型 — max__drake · 2026-10-27
• 开源项目 Veynod：给 AI 智能体搭一个共享协作工作区 — TKOWNS · 2026-10-27
• TMLR 论文：更强推理不等于更充分披露，Agent 思考越多未必告知越全 — SharonYixuanLi · 2026-10-27

更多「编程与Agent」频道 AI 资讯 →