UCLA 论文实测多智能体持久记忆:峰值 KV 缓存降 60%,但记忆层几乎无效
omarsar0 · x · 2026-10-12
UCLA 等机构论文《Persistent Memory in Multi-Agent LLM Inference》检验了近期走红的「持久记忆 + 多智能体」架构,结论一半叫好一半泼冷水:
- 拆分确实有效:三层 chain-of-agents 系统把长上下文拆给多个智能体后,每查询峰值 KV 缓存仅 14.3 MiB,显著低于单次推理(约 35.5 MiB)和 RAG 基线(35.3 MiB)。
- 持久记忆层基本无效:存储并回溯推理轨迹的记忆层只增加 0.368 MiB 峰值缓存,准确率变化 +0.015,置信区间跨零——八个数据集对上均无可检测的收益。
- 原因在评测结构:单题式 benchmark 每道题自带独立证据、独立打分,存储的轨迹没有可回溯的有用信息;要出现真实收益,需要跨查询复用的场景。
- 作者还复盘了自己四次测量修正的教训,给出 agent-memory 消融实验应满足的条件与无需预知缺陷的检测方法。
论文将出现在 NeurIPS 2026 ML for Systems Workshop。
「编程与Agent」频道最新
- OmniRoute:让 Claude Code 接入 200+ 供应商自动切换省钱 — hunain8007 · 2026-10-12
- 程序员用 Claude Code 写出 HD-2D 冒险游戏当生日礼物 — rubenrb02 · 2026-10-12
- Jay Alammar 与 Maarten 新书《图解 AI Agents》出版,含 300 余幅原创插图 — MaartenGr · 2026-10-12
- 仅花约 1000 美元算力,从零训练的 1.7B 编码 agent 登顶 nanoswe 纪录 — OfirPress · 2026-10-12
- 给 AI Agent 授权个人账号,我们是不是太随便了? — TheObeisantLaurels · 2026-10-12
- 程序员手腕疼怎么办:轻量腕部训练+语音转文字配 Agent 继续干活 — mgostIH · 2026-10-12