Don't Just Trust Your Memory: Evidence-Linked Memory Reduces Memory-Induced Degradation in LLM Agents
Yukyeong Lee, Yumin Choi, Jinheon Baek, Sung Ju Hwang
ACL Rolling Review (October
cs.AI, cs.MA
2026-11-11
把 agent 记忆的每条教训链回原始轨迹供核查,八套件全第一,平均涨 10.7 分,回归率 6.5% 降至 4.5%。
LLM agent 的外部记忆,是把过去任务的执行轨迹蒸馏成简短「教训」,新任务直接注入复用。KAIST 这个团队从一个反直觉现象入手:记忆不总帮忙,还会帮倒忙。agent 本来能做对的任务,带上记忆反而做错,论文称之为 memory-induced degradation(记忆致退化)。平均准确率看不出这种伤害,所以论文把效果拆成两个指标分开报:Gain 衡量记忆把失败翻成成功的比率,Regression 衡量把成功翻成失败的比率。
退化从哪来?论文分析了三个无记忆 trial 全部做对、带记忆却失败的任务,52% 的失败能追到 agent 服从的某条记忆,最常见的是条目本身就是错的(约 20%)。根源是结构性的:一条轨迹只有成功或失败一个标签,不说明几十个动作里哪个导致了结果,任何蒸馏方法都在猜;而现有系统只交出教训、不附来源轨迹,agent 无从核查。一个 ALFWorld 例子很典型:ExpeL 的一条规则声称台灯任务把物体放在灯边、开灯即完成,可产生这条规则的来源轨迹里,agent 是先拿起铅笔任务才结束的。规则与自己的证据矛盾,照着做就翻车。
WikiTrace 把证据留在教训旁边,记忆分三层、自上而下链接:
构建只需一遍:compiler 读入任务、轨迹和二元结果,产出 compilation 和 insights,整个记忆以只读文件形式挂载。
测试时,第一条消息装下全部 insight,并列出与当前任务最相似的三个历史运行作为入口。当某条 insight 缺少可执行的细节、与其他 insight 冲突、或来自失败运行时,prompt 要求 agent「下沉」(descent):沿链接打开来源摘要或原始轨迹,用 read、bash 这类终端工具搜出能定论的细节,必要时修正 insight 再行动;动作失败后也要再查一次。
为什么这样设计:教训短、能直接照做,但无法自证;轨迹忠实,又太长,不可能每个决定都重读。链接让 agent 只在感觉不对劲时才为证据付费。
五个 benchmark、八个测试套件,统一用 deepseek-v4-flash2 和同一个终端 agent,每套件跑三次:
| 方法 | 八套件平均 |
| No Memory | 79.5 |
| AWM / ExpeL / ReasoningBank | 80.381.7 |
| Insights Only(同款 insight,无链接) | 87.0 |
| WikiTrace | 90.2 |
WikiTrace 在全部八个套件上排第一,比无记忆高 10.7 分。最干净的对照是 Insights Only,它与 WikiTrace 唯一的区别是能否回溯来源,3.2 分的差值就是证据链接的贡献。WikiTrace 也是唯一在所有套件上都追平或超过 No Memory 的记忆方法。
Gain/Regression 上,WikiTrace 的 Regression 为 4.5%,Insights Only 6.5%,无记忆重跑的噪声底线 9.7%;它是唯一置信区间完全低于底线的方法,错误和超范围条目导致的回归比 Insights Only 少一半。Gain 比底线高 35 个百分点,Insights Only 是 27,现有记忆方法只有 714。
行为分析:难题运行中 44% 会下沉,易题只有 22%;下沉运行比不下沉的多领先 1.64.7 分,领先幅度随难度扩大。43% 的下沉运行改变了原计划(修订 insight 占 24%、补细节 14%、补事实 4%),这类运行领先 8.3 分。测试开销是 Insights Only 的 1.17 倍。换 GLM-5.3-flash 骨干,模式复现:平均 92.7,对无记忆 71.2、Insights Only 90.9,而每个现有记忆方法都至少在一个套件上低于无记忆。
对做 agent 产品的团队,结论可以直接落地:经验库别只存结论,把原始日志一起留着,成本不高,收益可测。Gain/Regression 这套拆分也值得抄,平均分看着还行、记忆却在暗地里弄坏任务的情况,只有分开算才暴露。机制上 WikiTrace 不挑 insight 的来源,任何蒸馏方法产出的教训都能挂链接,可以叠在 ExpeL、ReasoningBank 这类方案上。
也要诚实:10.7 分的大头来自「有好 insight」本身,Insights Only 已经比无记忆高 7.5 分;证据链接的净贡献是 3.2 分加回归减半。这是一次扎实的系统改进,不是能力代际变化。
作者自述三条:记忆仍从二元结果构建,compilation 的诊断和 insight 可能本来就是错的,链接只能核查、不能验证;全部 insight 塞进首条消息,记忆一大 prompt 就爆,规模化所需的检索留作未来工作;失败归因和下沉标签靠 LLM judge 读 agent 的推理,反映的是「推理里说了什么」而非真实成因,「效果」标签的 judge 一致性偏弱(κ 0.46),靠三个 judge 取多数票兜底。
读下来还有三点。基线被统一改成离线一次构建、拿真实成败标签,ExpeL 失去了原设计里对比成败重试的环节,现有方法的数字可能被压低。下沉 prompt 和证据访问捆绑在一起,论文把差距归给来源轨迹,但没有报「有下沉指令、无挂载证据」的消融。related work 里同样连接摘要与原始历史的 HORMA,没有进实验对照。