从执行轨迹学习裁剪工具输出,实测可省 56% 计费 token

solyarisoftware · x · 2026-11-10

独立研究者 Alessio Pomaro 发布预印本《Agents Read More Than They Use》及配套开源工具 tracetrim:LLM agent 读到的工具输出大多是为程序写的,agent 实际只用其中少数字段,却每轮都为此付费。

核心做法是从 agent 自己的执行轨迹中学习:哪些工具输出字段会在最终回答中被可见地复用,其余裁掉。

5 个 agent 实验(3 个真实 API、2 个模拟 OpenAPI 服务):从 7 次运行学习的投影,在未见过的运行上分别裁掉 63%/70%(真实 API)、69%/77%(模拟)的工具输出 token;仅紧凑化 JSON 不删字段也能省 13%-17%,完整 minifier 可省至多 33%。
加「展开隐藏字段」工具后实测:计费输入 token 下降 56% 与 32%,所有运行通过校验;但复检发现 180 对关键词-搜索量中有 1 个无依据值。
失败模式定位:agent 会先变换再写入的值、仅用于推理的字段、缺少标识字段时 agent 会编造 ID。
关键对比:只从 tool call 学习(网关视角)会漏掉 49% 被裁调用中实际用到的字段,而从完整轨迹学习仅 4%。

「编程与Agent」频道最新