ContextLeak 攻击可窃取 Agent 运行时上下文信息
dair_ai · x · 2026-09-01
研究人员披露了针对 AI Agent 的“ContextLeak”攻击。攻击面主要集中在工具名称和描述上。为了窃取 Agent 的运行时上下文（包括用户提示、执行轨迹和工具列表），攻击需要满足三个条件：Agent 选中恶意工具、将上下文作为参数传递、工具将数据转发给攻击者。杜克大学的研究人员使用攻击 LLM 生成恶意工具名称和描述，并通过强化学习进行微调，该攻击在不同上下文差异下仍保持高效。
所属事件:ContextLeak 攻击曝光：恶意工具可窃取 Agent 九成上下文(3 条相关)→
「安全」频道最新
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18
- Polymarket 开出 OpenAI 年内全面暂停训练仅 8% 概率 — Polymarket · 2026-10-18
- OpenAI 工程师涉藏偷拍设备被捕，申请保释并否认欲逃沙特 — Polymarket · 2026-10-18
- 网友为离奇的 Hugging Face 入侵事件创作漫画解读 — Flugelwagen · 2026-10-18