多篇论文揭示 Agent「记忆信任缺口」:过期记忆 92-100% 被照单全收
Future_AGI · reddit · 2026-09-14
Reddit 长帖系统梳理了 agent 记忆系统的「信任缺口」问题:agent 过度信任自己存储的过期事实,而非核实实时系统状态。
关键发现:
- arXiv 论文《The Memory Trust Gap》在 Qwen3 0.6B-8B 全尺寸上测试:当存储事实是唯一答案来源时,模型 92-100% 信任过期值,且与规模无关——问题不是混淆,而是过度信任。
- 论文《Revoked but Still Authoritative》测试 5 个主流记忆系统(Graphiti、Zep、mem0、langmem、cognee),发现没有一家默认执行撤销:撤销标记常对检索层不可见,或被撤销记录仍排在替代记录之前。
- Reflexion 式 agent 有记忆时反而更差:16 个卡死环境中存了 121 条反思记录,没有一条提到正确目标对象,agent 把自己的错误记牢并自信重复。
- 安全方面,MINJA 攻击可让普通用户通过正常查询向 agent 记忆注入记录,成功率超 95%;修复方案是在持久化层加写入前扫描校验器,测试中每次调用仅约 0.016ms 开销即完全阻断攻击。
开发者应对模式:
- 「存储」与「使用」分离:保留完整归档,但构建按查询条件过滤的记忆视图。
- 晋升门控:模型提议记忆写入但不直接提交,由人或二次检查确认。
- 溯源追踪:每条记忆记录带来源和时间戳,正成为标准。
「编程与Agent」频道最新
- 开源 Element Forge：ComfyUI 里可编辑的实拍视频 AI 特效 — zitroffell · 2026-10-30
- Gym-Anything 引入审计 Agent,专门用合法动作破坏环境找错 — wellecks · 2026-10-30
- CMU 用 Agent 自动造 200+ 软件环境,Gym-Anything 拿 GDP 数据选题 — wellecks · 2026-10-30
- Cloudflare 不肯做,开发者自研工具实现 Durable Objects 零停机迁出 — samgoodwin89 · 2026-10-30
- 两分钟面试法：用一条 prompt 让 Grok 帮你搭两个定制 bot — nateliason · 2026-10-30
- Cursor、Harvey 为何自训专用模型：多数细分市场养不起专属大脑 — MartinGTobias · 2026-10-30