LLM 智能体记忆洗白：长期记忆如何丢失信任源

richie9830 · reddit · 2026-08-10

这篇论文探讨了 LLM 智能体中的「记忆洗白」（Memory Provenance Laundering）问题。在智能体整合长期记忆时，原本不可信的外部观察数据可能会被转化为看似可信的用户历史或工作流上下文。

在这个过程中，数据的原始来源及其信任等级往往会丢失，但触发的动作指令却被保留。这导致后续的智能体会直接继承结论，而无法验证其可信度。论文提出，应在记忆整合过程中保留数据来源，并使记忆的权限与其触发动作的风险等级相匹配。