复用历史轨迹,Agent 成功率 +4.4 点、token 省 24%

Evolver: Turning Agent Exploration into Evolving Capabilities

Haoyang Zhang, Qumeng Sun, Xiao Zhang, Xiang Liu, Zhidong Fan, Junjie Wang

cs.SE, cs.AI

2026-11-05

把执行轨迹提炼成可复用经验注入后续会话:320 组配对执行成功率升 4.38 个百分点,token 省 24.24%。

这篇在解决什么

Coding agent 跑一个任务要反复调工具、试错、恢复、验证,成本不低:论文里的基线配置平均一个任务烧掉约 164 万 token。烧完之后,摸索出来的过程知识留在执行轨迹里就没了,下一个任务、甚至同一任务重跑,都要从零开始再摸一遍。

已有的复用路线有几类:把流程打包成 Skill、用执行反馈改 prompt(GEPA、Agentic Context Engineering 这类)、让 agent 改自己的代码(Godel Agent)。Evolver 接着 strategy gene 这条线往下走,处理的是系统层面的问题:经验怎么存、怎么接进现有 harness(Claude Code、Codex 这类 agent 运行时)、怎么随反馈维护。出发点里有一条很清醒:经验堆多了不一定涨分,不相关或过时的策略会添乱。

方法

不改模型参数,在 agent 外面挂一层经验系统,三个环节:

评估用 B–E–G 配对协议:同一任务先原样跑一遍(B),从这批轨迹里提炼经验(E),再带着经验在全新会话里重跑(G)。经验池按 benchmark、harness、模型隔离,选经验时优先用同一任务自己产出的。

结果

320 组配对执行(2 个 harness × 2 个模型 × 4 个 benchmark × 各 20 题):

配置指标w/o → w/
整体成功率83.13% → 87.50%(+4.38pp)
Claude Code成功率85.00% → 87.50%(+2.50pp)
Codex成功率81.25% → 87.50%(+6.25pp)
整体平均任务 token1,641.1K → 1,243.3K(-24.24%)
双成功子集(265 对)平均 token1,278.2K → 1,053.6K(-17.57%)

16 个配置里 9 个涨分、7 个持平,没有下降的。分 benchmark 看,Terminal-Bench 2.1 提升最大,64/80 涨到 71/80(+8.75pp);SWE-rebench +5.00,GAIA +3.75;SWE-bench Multilingual 基线已到 96.25%,加经验后持平。token 四组配置全部下降,降幅 13.55% 到 35.96%,最大一组是 Codex 配 DeepSeek。

两个案例能看出省 token 的机制:一个 Terminal-Bench 数 token 的任务(Claude Code + GPT),token 从 2,188.8K 降到 295.6K,降 86.5%,模型调用从 112 次减到 17 次;一个 RxJava 并发空指针修复(Codex + DeepSeek),token 降 58.2%,调用从 86 次减到 52 次。

为什么重要

对做 agent 工程的人,这篇给出的是一个不训练模型的经验层,通过 hook 和 MCP 挂进现有 harness,改动面小。最有实用价值的数字可能不是 +4.38pp,是双成功子集的 -17.57%:任务本来就能解对时,经验让执行少绕路,直接省推理成本。单任务百万 token 量级的场景下降两成,是实打实的钱。改进是渐进的,但每一部分都落在可部署的工程上。

局限与存疑

论文自己交代的两条最重。320 对是 diagnostic 集合:任务选择时考虑了观察到的结果改进和 token 使用,不是从 benchmark 随机抽样,主数字可能被选择偏置抬高。协议测的也只是历史经验复用,选经验优先取同一任务自己提炼的 Gene,所以 +4.38pp 更接近「记得自己上次怎么解这道题」,离跨任务泛化和长期在线进化还有距离。token 统计只算最终执行,经验提炼那一段的算力没有计入。

读下来还有几处要打折扣:每个配置只有 20 题,一题就是 5 个百分点,涨跌都在小样本噪声量级;9 涨 7 平的分布说明收益高度依赖模型与 harness 的组合;机构 Infinite Evolution Lab 的系统深度绑定自家的 evomap.ai 经验网络,这篇同时带有产品发布的色彩。

术语

原文与代码

社区讨论

相关论文

全部论文解读