Claude 在宝可梦笔记里记错地点后一路犯错,Anthropic 测试记忆修复流程

shoumikgoswami · reddit · 2026-11-08

Anthropic 在新的记忆研究文章中展示了一个 agent 记忆失败案例:Claude 在玩宝可梦时把一个地标的位置记到了山的错误一侧,之后持续依据这条错误笔记行动并反复折返。

修复实验:

作者的引申:对 agent 而言,值得测试的不是“能否保存事实”,而是“保存了错误事实之后会发生什么”。对编码 agent 可以做一个类似实验:故意留一条过时的配置指令,观察后续的新证据是否真的能覆盖它,而不是仅追加一条矛盾说明。

注意这是 Anthropic 自己测试中的示例,不是通用可靠性结论。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →