研究拆解 ChatGPT 记忆:96% 由系统单方面写入,52% 含心理推断
APPSO · wechat · 2026-11-01
一篇被 ACM Web Conference 2026 接收的论文《The Algorithmic Self-Portrait》利用 GDPR 数据访问权，分析了 80 名真实用户的 ChatGPT 记忆与对话记录(1058 段对话、22971 轮交互、2050 条记忆条目)，首次从外部拆开 AI 记忆黑箱。
核心发现:
- 96% 的记忆由系统单方面写入：逐条检测后只有 4.1% 的记忆来自用户明确要求，其余都是 ChatGPT 自行判断「有用」后写入的。
- 记录超出事实层面：28% 的记忆含 GDPR 定义的个人数据，7% 含特殊类别数据(其中健康信息占 61%)；52% 的记忆是对用户心理状态的推断——欲望占 73%、意图占 16%，如「对失败有恐惧」这类「你是什么样的人」的判断。
- 记忆大体忠实：84% 的记忆可在对话历史中找到直接文本依据，明确无依据或矛盾的仅 4%。
研究者还用开源模型微调复刻了 ChatGPT 的记忆提取过程(语义相似度约 60%70%)，并基于此构建 AttributionShield 工具：在发送前预判会触发什么敏感记忆并给出「去身份化」改写。评测显示 94%100% 的改写显著降低个人归因，87%91% 保持回答实用性不变，说明隐私保护与对话质量可以兼得。
文章最后建议用户在设置中检查已存储的记忆，并附上一段可用于审计 AI 对自己了解程度的提示词。
「安全」频道最新
- AI 可观测公司 Fiddler 被收购，CrowdStrike 看中 Agent 安全 — SumitGup · 2026-11-04
- AI 安全研究者 Jeff Ladish 警告:RSI 临近比当前模型可怕得多 — JeffLadish · 2026-11-04
- 谷歌 AI 部门员工要求豁免禁言协议,以便公开谈论 AI 风险 — EthanJPerez · 2026-11-04
- AI 安全工程师必练的 14 个 Agentic 安全项目清单 — Full-Presence7590 · 2026-11-04
- 最大 PC 游戏 Mod 站 Nexus Mods 强制新 Mod 声明是否用 AI — The Verge AI · 2026-11-04
- 研究者论证 AI 福利与 AI 安全互补而非对立，给出四条理由 — RosieCampbell · 2026-11-04