TurnSight:针对工具集成推理的回合级事后自蒸馏框架

RUC · hf · 2026-08-05

工具集成推理 (TIR) 使 LLM 能够通过迭代工具交互解决复杂任务。然而现有的强化学习方法多依赖轨迹级监督,限制了长周期 TIR 场景中的细粒度信用分配。

现有的自蒸馏方法通常从真实答案或检索到的技能中获取上下文,这可能无法反映智能体实际访问的状态,且 token 级监督无法捕捉工具交互的回合级结构。为此,研究团队提出了 TurnSight,一个回合级的事后自蒸馏框架。

该框架直接从执行条件的事后经验中推导监督,构建具有不同预见范围的多个事后视图,并通过跨范围的方向一致性选择可靠的监督。最终,将选定的事后信号在兄弟展开中标准化,并用于自适应地调制 RL 优势,同时保持其原始优化方向。在三个基准上的实验证明了该框架的有效性。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →