研究者提出「延迟记忆投毒」：Agent 一条错误事实污染未来所有决策

sierracatalina · x · 2026-09-05

作者在 2025 年 7、8 月连续写过两篇关于「级联幻觉」（cascading hallucinations）的文章，如今该问题被领域命名为 ASI06。核心观点：自主 Agent 若把一条错误事实存入记忆，犯下的不是一次错误，而是给未来每一次检索到该记忆的决策埋下隐患——攻击会「等待」并延迟爆发。新文章将这一攻击形式化为「延迟记忆投毒」（memory poisoning on a delay），提醒 Agent 记忆系统需要把持久化的错误事实当作安全问题而非普通 bug 来对待。