个人 Agent 记错你怎么办:五种记忆出错模式与自查指南
sujingshen · x · 2026-11-20
「个人 Agent 使用指南」第 6 篇,讨论 AI 对你的记忆不一定对,且越来越难发现。
五种记忆出错模式
- 把随口一问当成你是谁:替朋友问的病、为写文章搜的资料,都可能被记到你头上(如问「一个设计师会怎么处理」被记成「用户是设计师」)。
- 过期了也不退休:AI 记东西在行、忘东西笨拙,搬家换工作后仍按旧信息办事,且不会主动告诉你。
- 两件事记串:同时处理两个相似项目时把甲的细节安到乙身上。
- 记不清就自己补:有用户反映 ChatGPT 对「刚才聊过的事」并非真去找,而是编一个说得通的版本当真实历史。
- 别人往里塞:安全研究员 Johann Rehberger 演示通过让 ChatGPT 读藏指令的文件即可让它永久记住假信息(记住「用户 102 岁、住在《黑客帝国》里」),2025 年 2 月又在 Gemini 上复现。
核心结论
聊天机器人记错最多答错一句话,个人 Agent 会照错误记忆办事(快递寄旧地址、订餐避开错 restaurants)。配图还提到 OpenAI 内部评测中准确记住事实的比例从 41.5% 升到 82.8%,但记忆从逐条清单变成摘要后,用户越来越看不清它记了什么。作者建议:别只在聊天里纠正,要去设置里主动查、改记忆条目。
「漫话AGI」频道最新
- 转引 NYT 记者 GTA VI 长评:AI 时代再无这种游戏 — gleech · 2026-11-20
- Databricks CEO:按旧定义去年已达 AGI,标准被不断后移 — VraserX · 2026-11-20
- RAM 与算术成本比从 1:1 变 1000:1,LLM 时代该让 AI 优化代码了 — CatAstro_Piyush · 2026-11-20
- AI 视频前沿正被中国主导:字节 Seedance 与 MiniMax 领跑 — alexvoica · 2026-11-20
- Hard Fork 谈 GTA VI 与 AI 时代:Anthropic 以 2 万亿美元上市 — Hard Fork (NYT) · 2026-11-20
- 「下一个爱因斯坦」Sabrina Paterski 与牛津学者激辩AI炒作与边界 — whoamisri · 2026-11-20