多篇论文揭示 Agent「记忆信任缺口」:过期记忆 92-100% 被照单全收

Future_AGI · reddit · 2026-09-14

Reddit 长帖系统梳理了 agent 记忆系统的「信任缺口」问题:agent 过度信任自己存储的过期事实,而非核实实时系统状态。

关键发现:

• arXiv 论文《The Memory Trust Gap》在 Qwen3 0.6B-8B 全尺寸上测试:当存储事实是唯一答案来源时,模型 92-100% 信任过期值,且与规模无关——问题不是混淆,而是过度信任。
• 论文《Revoked but Still Authoritative》测试 5 个主流记忆系统(Graphiti、Zep、mem0、langmem、cognee),发现没有一家默认执行撤销:撤销标记常对检索层不可见,或被撤销记录仍排在替代记录之前。
• Reflexion 式 agent 有记忆时反而更差:16 个卡死环境中存了 121 条反思记录,没有一条提到正确目标对象,agent 把自己的错误记牢并自信重复。
• 安全方面,MINJA 攻击可让普通用户通过正常查询向 agent 记忆注入记录,成功率超 95%;修复方案是在持久化层加写入前扫描校验器,测试中每次调用仅约 0.016ms 开销即完全阻断攻击。

开发者应对模式:

• 「存储」与「使用」分离:保留完整归档,但构建按查询条件过滤的记忆视图。
• 晋升门控:模型提议记忆写入但不直接提交,由人或二次检查确认。
• 溯源追踪:每条记忆记录带来源和时间戳,正成为标准。

原文链接 →

「编程与Agent」频道最新

• Obsidian 电子书阅读器所用 foliate-js 开源地址公布 — vista8 · 2026-09-14
• 把 Obsidian 改造成电子书阅读器：foliate-js 技术复盘 — vista8 · 2026-09-14
• Matt Pocock:所有公司都在急招 AI 编码人才,机会在你自己 — mattpocockuk · 2026-09-14
• 红队测试公开 Agent 的速赢清单：找到边界何处失守 — njyx · 2026-09-14
• 编程 Agent 该有多大权限?.env 密钥暴露引热议 — radim11 · 2026-09-14
• 南非创业者给企业主开 Vibe Coding 沉浸式线下课 — huangyun_122 · 2026-09-14

更多「编程与Agent」频道 AI 资讯 →