持久记忆把提示注入变成长期记忆污染

VraserX · x · 2026-07-25

持久记忆把提示注入问题放大成了更棘手的 memory poisoning。

• 一份恶意文档如果今天混进长期记忆，可能会让模型在接下来几个月都持续做出错误行为。
• 作者判断，OpenAI、Google、Anthropic 之类的公司大概率已经在悄悄做某种“AI 记忆杀毒/防护”能力。

原文链接 →

「安全」频道最新

• Anthropic 发布迄今最详细威胁情报报告,披露 Claude 被滥用案例 — TinfoilTricorn · 2026-09-11
• Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
• 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
• a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
• AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11
• 集体诉讼指控 Anthropic 用模糊用量倍数夸大 Claude 订阅权益 — The Decoder · 2026-09-11

更多「安全」频道 AI 资讯 →