上下文裁剪省60% token却让任务成功率跌到77%,协议感知裁剪保住96%
dair_ai · x · 2026-09-16
dair-ai 分享了一篇讨论 agent 上下文裁剪(context trimming)的论文。以往这类工作只看省了多少 token,这项研究额外测量任务是否仍然成功。
研究在多步工具调用工作流上对比了五种裁剪策略:基于近因、相关性、摘要等方法的策略约省 60% token,但任务成功率降到 66.6%77.3%。论文提出「协议感知裁剪」:保留标识符、约束、工具 schema 和未完成的承诺,压缩其余内容,配合自适应预算护栏,在省 56% token 的同时把任务成功率达至 96.0%,级联失败率仅 1.0%。
预算大小影响显著:保留上下文 ≤25% 时失败几率是保留 ≥50% 的 10.92 倍,且复杂工作流需要保留更多上下文。
「编程与Agent」频道最新
- 本地跑什么基准才有用?Reddit 讨论自建推理评测体系 — JustTooKrul · 2026-09-17
- 数十亿参数小分类器:比前沿模型便宜一个数量级的工程利器 — FrankFelixAI · 2026-09-17
- 法国 AI 员工创企 Workers Delos 融资 1000 万欧元,已进驻 300+ 公司 — JafarNajafov · 2026-09-17
- 为什么我能轻松找到前沿 LLM 想不到的代码优化思路? — oyacaro · 2026-09-17
- RL 搜索新解:agent 花三到五成 token 在搜索,专用模型快 20 倍便宜百倍 — AI Engineer · 2026-09-17
- Unity 推出官方 OpenAI Codex 插件,引擎知识由自家工程师维护 — pvncher · 2026-09-17