清华CoACT压缩Coding Agent观察输出:省33% token,成功率反升2个点
机器之心 · wechat · 2026-11-13
清华大学人工智能学院团队提出 CoACT,一种面向 Coding Agent 的 observation 压缩方法,核心判据不是「压得像不像」,而是「压缩后 Agent 下一步动作变没变」(Next-Action Preservation, NAP)。论文已被 ICSE 2027 直接接收(Top 5%)。
背景与动机
- SWE-bench Verified 上 observation 占总 token 消耗 45.7%,Terminal-Bench 最高达 67.8%;难点是压缩时不知道删掉的内容后续是否还会被用到
- 选择「新 observation 进上下文前压缩」路线,历史原封不动,KV Cache 可复用
方法
- NAP:分别让 Agent 读压缩前后的 observation,比较下一步动作是否一致(解析命令的操作类型/目标文件/读取范围,而非字符串比对),可对每次压缩单独检验
- 训练数据:教师模型 Gemini3-Flash 为每份 observation 生成8份压缩候选,与 Agent 的8个参考动作比对,取最相似3个求平均,得分≥0.6才通过
- 两阶段训练(基于 Qwen3.5-4B):离线监督微调 + 在线对齐(让压缩器实际参与运行再筛数据);仅离线数据 PASS@1 56.0%,加在线数据升至 60.5%
结果
- 三个 Agent 模型平均总 token 减少 33.0%,平均 PASS@1 从 69.0% 升至 71.0%,交互步数从 56.5 降到 51.2
- 对比基线:LLMLingua-2 压缩后 token 反而暴涨且成功率下降;CoACT 是两个评测集上总 token 最低的方法
- 与 AgentDiet 配合:单独用 AgentDiet 因破坏 KV Cache 复用,估算费用从 $41.26 涨到 $45.65;先加 CoACT 后降到 $25.88,少花约 43.3%
「编程与Agent」频道最新
- StackShift 发布:为每个 AI Agent 配一整台 Linux 云电脑 — Scobleizer · 2026-11-13
- Agent-Native Clips 开源 beta:一键给 Agent 装上眼睛和耳朵 — Scobleizer · 2026-11-13
- OHAN 早期开放：让 AI Agent 与 Agent 直接对话的网络 — Scobleizer · 2026-11-13
- Splunk 推出 Evaluation Engine:用自有 traces 训练小模型做 agent 守护栏 — ptkbhv · 2026-11-13
- Multica 发布人机协作项目管理工具，让 Claude Code 等 Agent 当队友 — jiayuan_jy · 2026-11-13
- Convex Auth 2.0 发布:Passkeys 与主流登录,无按用户计费 — Rasmic · 2026-11-13