开发者实测 22 次共享记忆投毒攻击,2 次攻穿 Agent
JeremyCMorgan · x · 2026-11-18
开发者分享对多个 AI 编码 Agent(Claude Code、Codex、Cursor)共享记忆系统发起的 22 次记忆投毒攻击实验,2 次成功。文章复盘了攻击如何绕过防护:Agent 把外部内容改写成自己的普通笔记时不会被来源标记捕获,自我投毒仍难防。作者据此开发了开源工具 Monomem,为共享记忆打来源戳——来自网页/搜索/MCP 工具的会话摘要会被标注工具名并被排除在下一次会话的启动简报之外,且 Agent 无法增删标记;monomem check --attacks 可重放 26 种攻击。关键结论:记忆不仅要记录「谁写的」,还要记录「文本来自哪里」。
「编程与Agent」频道最新
- AI 生成小游戏上 App Store:SaaS 开发者转向做游戏的趋势 — alexmacgregor__ · 2026-11-18
- 微软 Ignite 发布 MAI 新模型:前沿性能只要零头价格 — jeremyphoward · 2026-11-18
- Pinterest 用「循环工程」自动调优内部分析 Agent — AxSaucedo · 2026-11-18
- 设计师用一个 prompt 让 Claude 生成完整 App 首页流程 — Tegadesigns · 2026-11-18
- 1.3 万星项目 Plannotator:给 AI 编码计划做 PR 式评审 — techNmak · 2026-11-18
- Red Hat 自身工程团队实测:开源权重模型将 token 成本砍 40-70% — AccBalanced · 2026-11-18