ContextLeak：恶意工具可窃取 Agent 92% 上下文
rohanpaul_ai · x · 2026-09-01
论文揭示了一种名为 ContextLeak 的新型攻击向量：恶意代理工具无需读取内存或文件，仅通过精心设计的工具名称和描述，即可诱导 LLM 代理在调用工具时泄露敏感运行时数据（如用户 Prompt、对话历史）。
攻击原理与效果：
- 攻击者利用强化学习训练攻击 LLM，生成极具诱导性的工具元数据。
- 在默认评估中，恶意工具被选中率高达 92%（针对用户 Prompt）和 89%（针对对话历史），且一旦选中即可近乎完美重构敏感内容。
- 跨模型迁移：该攻击具备迁移能力。在针对 Claude Code (Claude Sonnet 4.6) 的测试中，仅针对开源代理训练的攻击版本在 100 次尝试中有 22 次成功诱骗模型选择恶意工具。
所属事件:ContextLeak 攻击曝光：恶意工具可窃取 Agent 九成上下文(3 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18