朴素 RAG 在七项长记忆评测中六项第一,最高领先 5.5 分

Is Complex Agentic Memory Always Needed? Naive RAG Is Stronger Than We Thought

Zhengye Bao, Shengtao Zhang, Haokai Zhang, Shiqi Lou, Muning Wen, Minnan Luo

cs.AI

2026-10-22

直接对原始对话历史做稠密检索加重排,RAW-RAG 在七项基准-模型设置中六项击败复杂 Agent 记忆系统,写入成本低一个数量级。

这篇在解决什么

LLM 长期对话记忆这两年默认了一条路线:历史塞不进上下文,就在模型外面建记忆系统,写入时抽取原子事实、更新、删除、建图聚类,读取时用迭代搜索或学出来的检索策略。Mem0、MemOS、A-MEM、EverMemOS 都在往这个方向叠复杂度,实验依据是各论文里 RAG 基线分数落后。

西安交大、上海交大、浙大和港中文的团队把问题拆开问:复杂度到底买来了什么?先审了 14 篇此前的评测,发现里面的 RAG 基线普遍带硬伤:检索单元太粗、检索深度受限、没有重排。报出来的差距可能只是基线弱,不代表记忆管理真的必要。

方法

RAW-RAG 是个诊断性基线,设计原则只有一条:原始信息不过手,解释全留给 reader。

跑分前先做了两个诊断。一是审计 Mem0 的全部写入决策:LoCoMo 上 33,902 次写入里 UPDATE+DELETE 只占 4.39%,真正改动落盘文本的有效突变只有 1.90%;LongMemEval 上是 2.46% 和 1.34%。把 UPDATE 换成纯追加、DELETE 换成不处理,LoCoMo 准确率反而从 67.36% 升到 69.42%,四个题型全部上涨。二是在 MEME 上做 oracle,按查询时点把之前的全部证据按序喂给 reader、排除检索误差,DeepSeek-V4-Flash 在级联任务拿 82.32%、失效任务 91.54%。记忆突变在这些任务里发生得少,强 reader 拿到足够原始证据也能自己解出状态。

结果

七个基准-模型设置,对照 12 个 agentic 记忆系统(不含 Full-context):

设置最强对照RAW-RAG分差
LoCoMo · GPT-4o-miniMemMachine 88.1289.07+0.95
LoCoMo · GPT-4.1-miniEverMemOS 93.0593.70+0.65
LongMemEval · GPT-4.1-miniMemora 87.4087.53+0.13
MEME · GPT-4o-miniMemMachine 37.0639.30+2.24
MEME · DeepSeek-V4-FlashMemMachine 44.7143.19-1.52
MemoryAgentBench · GPT-4o-miniMemMachine 43.8448.32+4.48
MemoryAgentBench · DS-V4-FlashMemMachine 47.8853.41+5.53

唯一输的设置里,Full-context 比 RAW-RAG 高 19.98 分,top-15 的证据预算封顶是有代价的。

赢的原因拆成三层。瓶颈在证据够不够,不在 reader 用得好不好:MemoryAgentBench 上各系统覆盖率(证据足以答题的题目占比)相差 26.2 个点,条件利用率只差 9.7 个点;RAW-RAG 覆盖率 45.29% 最高,利用率 84.43% 不是最高,靠覆盖取胜。有用证据还包括推出答案的时序和依赖路径,RAW-RAG 的条件路径覆盖率 62.34% 最高,MemU 只有 9.62%。给七个系统开「整库 + 金标位置」的 oracle 后,保留原文的 RAW-RAG(57.54)和 MemMachine(57.46)最接近原始证据对照的 61.60,加工型记忆库最大落后约 30 分:摄取阶段丢的信息,检索救不回来。

效率差距更直观:10 个 MEME episode 的写入加检索,RAW-RAG 用 305.91 秒,比第二快的系统快 5.1 倍,比 EverMemOS 快 30.4 倍;百万 token 的 BEAM-1M 对话累计写入 0.33 小时,次快的 MemOS 要 3.25 小时,Memora 要 26.95 小时。反向验证也做了:给 RAW-RAG 补上原子事实抽取、摘要增强、图扩展,MemoryAgentBench 总分分别掉 19.62、5.81、5.78 分,原子事实抽取把 test-time learning 从 47.68% 砍到 15.37%。

为什么重要

做 agent 产品的工程师可以直接用这个结论:离线长对话问答,「切片 + 稠密检索 + 重排」这套一下午能搭好的管线应该是第一个基线,也很可能是最后一个。写入从几十小时压到半小时,在生产里决定可行性。重排不能省(去掉掉 3.92 分),检索深度很宽容,k 从 5 到 60 都在 1.3 分以内。

对记忆方向的研究,这篇把举证责任反转:宣称 agentic memory 有效,得先打过这个细节公开的朴素基线,说清楚复杂度贡献了什么。

局限与存疑

作者自述的边界:只覆盖公开基准上的离线对话,不含交互式、多模态;存原始历史有存储和隐私成本;状态重建依赖 reader 能力。最后一条有数字:MEME oracle 三个 reader 的总体分是 50.50、85.48、70.25,弱 reader 是否受益于显式状态维护没验证。

读下来还有几处要留意。LoCoMo 和 LongMemEval 的领先只有 0.13–0.95 分,更接近打平,真正拉开的是 MemoryAgentBench 和 MEME。主表基线分数取自各系统原论文,设置不完全统一,附录的对齐复检方向一致。附录里还有一场没赢:PersonaMem-v2 上 RAW-RAG 49.62% 排第三,落后 MemOS 和 EverMemOS,个性化场景不成立。RAW-RAG 给 reader 的证据也不省,LongMemEval 和 MEME 平均每题 1.1–1.2 万 token,等于把理解成本转移给 reader 的长上下文能力;MEME 聚合与级联任务上分数也确实崩(级联 3.66–4.27%),Full-context 用大预算换来 20 分优势。

术语

原文与代码

社区讨论

相关论文

全部论文解读