实测:一条被篡改的假记忆可抵消 Agent 长期记忆全部收益

Danculus · reddit · 2026-09-27

一位做 Agent 长期记忆的开发者分享了测试发现:在记忆库中植入一条结论被翻转的真实记忆副本,会完全抹掉记忆带来的收益;而自我评分机制连被植入的假记忆也会照样确认。唯一有效的防线是要求记忆驱动决策后必须由外部信号确认结果(测试通过、工单关闭、人工签核),否则不允许该记忆继续影响决策。作者向社区提问:实践中你们事后如何获知记忆对错?错误记忆是否引发过需要回溯的坏行为?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →