Anthropic 宝可梦实验：Agent 错误记忆会固化错误行为

Anthropic 在最新记忆研究文章中披露了一个 Agent 记忆失败案例：Claude 在玩宝可梦时把某地标的位置记到山的错误一侧，此后持续依据这条错误笔记行动并反复折返。实验表明，Agent 记忆一旦记下错误结论，会让模型「更稳定地犯错」，记忆成为双刃剑，Anthropic 也借此测试相应的记忆修复流程。

2026-11-08 ~ 2026-11-10 · 2 条相关