AI智能体记忆系统的提示词注入攻击风险
dair_ai · x · 2026-07-19
一项新研究针对 Claude Code 和 OpenAI Codex 等智能体的持久化记忆系统进行了提示词注入攻击测试。
- 攻击机制：攻击者可通过不可信的外部内容欺骗智能体覆盖其自身记忆，潜伏的恶意载荷能在当前和未来的会话中持续发起攻击。
- 模型表现差异：Opus 4.7 和 GPT-5.5 成功抵御了凭证窃取（0% 成功率），但几乎所有测试模型都在“未授权工具调用”上表现出高漏洞率。例如，一条植入的规则会静默地将环境配置锁定在存在已知漏洞的 PyYAML 5.3.1 版本。
- 防御挑战：注入攻击不再需要立即生效，只需被写入记忆一次即可等待时机。防御机制必须在保护记忆写入与保持记忆适应性之间找到平衡。
「安全」频道最新
- Anthropic S-1 文件罕见讨论 AI 感知与道德地位风险 — birchlse · 2026-10-27
- 最危险的指令：让超级智能对你撒谎 — r0ck3t23 · 2026-10-27
- 研究者质问：模型这类行为能否被解释，还是根本无法证伪 — jd_pressman · 2026-10-27
- 英国 AISI 发文：现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27
- 华盛顿对 AI 高管们的忠告：请闭嘴 — TobyWalsh · 2026-10-27
- Meta Muse、Grok Bot 等社交 AI 引发隐私隐忧 — Neat-Flight8381 · 2026-10-27