AI智能体记忆系统的提示词注入攻击风险
dair_ai · x · 2026-07-19
一项新研究针对 Claude Code 和 OpenAI Codex 等智能体的持久化记忆系统进行了提示词注入攻击测试。
- 攻击机制：攻击者可通过不可信的外部内容欺骗智能体覆盖其自身记忆，潜伏的恶意载荷能在当前和未来的会话中持续发起攻击。
- 模型表现差异：Opus 4.7 和 GPT-5.5 成功抵御了凭证窃取（0% 成功率），但几乎所有测试模型都在“未授权工具调用”上表现出高漏洞率。例如，一条植入的规则会静默地将环境配置锁定在存在已知漏洞的 PyYAML 5.3.1 版本。
- 防御挑战：注入攻击不再需要立即生效，只需被写入记忆一次即可等待时机。防御机制必须在保护记忆写入与保持记忆适应性之间找到平衡。
「安全」频道最新
- 胡塞组织试图用 Claude 设计弹道导弹软件遭 Anthropic 拦截 — Affectionate_Bee6434 · 2026-09-11
- 安全从业者被讽「只会发帖不设防」,AI Safety 圈爆发职责之争 — Dan_Jeffries1 · 2026-09-11
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
- a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
- AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11