记忆历史不等于推理历史:agent 记忆系统缺失「因果溯源」层

puppy_lover_2021 · reddit · 2026-09-28

作者在为长期运行 agent 构建记忆基础设施时发现一个此前被模糊的关键区分:时间顺序不是因果解释。

以一个事故调查 agent 为例:若日志记录了「连通性证据到达 → 随后 agent 改变了调查决策」,事件日志可以重放状态变化,但除非应用显式记录了关系,你无法断定「证据 → 导致 → 决策」。

作者由此区分三种溯源(provenance):

前两种在记忆系统中较易表达,第三种则完全不同——测试中,新决策的来源只标为 agent,没有任何东西把决策与证据关联起来。你可以拥有完美可重放的记忆历史,却仍回答不了「agent 为什么这么决定」。

作者附上博客和开源项目 typedmem,并抛出开放问题:生产级 agent 是否应显式存储 证据 → 决策 链接?还是依赖 trace/执行溯源,或把推理溯源完全放在记忆层之外?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →