引用门+字符串校验:让 Agent 记忆可靠的关键是别信任它

capngreenjeans · reddit · 2026-11-23

作者分享其家庭事务 Agent(运行在 Muse 上)的记忆架构:两层设计——原始日志层逐字记录一切,其上是精选层(人员/项目/决策),Agent 日常从精选层读取。

核心机制是「引用门」:任何断言要写入精选层,必须附带来自原始日志的逐字引用,由一个纯字符串匹配的脚本(非模型)逐字符验证,验证不过就不落盘。

实测数据:迁移 63 页资料时,用便宜的 Sonnet API 起草通道(只写 staging),花费 $12.93,校验器抓出约 35 条坏引用——全是错误引用或把两条真引用拼接,虽无捏造事实,但没有门禁就会写入永久记录。

其他设计:被替换的旧断言移入 Superseded 区并记录时间;曾靠植入错误日期的保真度测试验证了机制有效。

作者还指出关键前提:这套模式只在记忆层完全由你掌控(文件、脚本、Agent 无法哄骗的校验器)时可行——他试过 Anthropic 的 Duet,因其平台封闭记忆层而无法搭建。局限:引用存在不等于结论公允,仍需人工复核。部分配置开源。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →