AI智能体记忆系统的提示词注入攻击风险
dair_ai · x · 2026-07-19
一项新研究针对 Claude Code 和 OpenAI Codex 等智能体的持久化记忆系统进行了提示词注入攻击测试。 - **攻击机制**：攻击者可通过不可信的外部内容欺骗智能体覆盖其自身记忆，潜伏的恶意载荷能在当前和未来的会话中持续发起攻击。 - **模型表现差异**：Opus 4.7 和 GPT-5.5 成功抵御了凭证窃取（0% 成功率），但几乎所有测试模型都在“未授权工具调用”上表现出高漏洞率。例如，一条植入的规则会静默地将环境配置锁定在存在已知漏洞的 PyYAML 5.3.1 版本。 - **防御挑战**：注入攻击不再需要立即生效，只需被写入记忆一次即可等待时机。防御机制必须在保护记忆写入与保持记忆适应性之间找到平衡。