DeepMind:agent 蜂群攻击下 prompt injection 仍未解决,最强模型也中招 34%
rohanpaul_ai · x · 2026-11-13
Google DeepMind 技术报告《Scaling Adaptive Prompt Injection Attacks with Agent Swarms》指出 prompt injection 远未解决:
- 人工红队测试如今几乎攻不破新版 Gemini 系列,问题看似已解决——但这只是攻击能力不够。
- 团队构建 Agentic Optimizer:8 组 AI agent 团队互相共享笔记、迭代改进注入攻击,在 100 个工具调用任务上测试(攻击目标只是一个随机无害的工具调用)。
- 最多 320 次尝试内,最强攻击者在 34% 的任务上骗过了防御最强的 Gemini 4 Argon;开源模型 Kimi K3、GLM-5.3、DeepSeek-V4.1-Flash 仅能抵抗 1% 的任务。
结论:前沿防御需要主动的自动化红队来应对越来越强的攻击者,而非依赖静态 benchmark 的饱和成绩。
所属事件:DeepMind：智能体蜂群攻击下提示注入防御仍可被攻破(2 条相关)→
「安全」频道最新
- 近 70% 美国政府机构已用生成式 AI，工会紧急补上护栏 — The Decoder · 2026-11-13
- Wiz CTO:AI 已把数月级攻击压缩到 20 分钟,企业需用 AI 持续自我攻击 — a16z · 2026-11-13
- 用户控诉 Claude 按国籍封号，验证申诉无门 — Haunting-Hand1007 · 2026-11-13
- 实锤：上海数据中心被曝装有受禁 NVIDIA 芯片 — dinabass · 2026-11-13
- Exa 搜索引擎整体迁入欧盟，查询与索引处理全部落地斯德哥尔摩 — kimmonismus · 2026-11-13
- 前 OpenAI 研究员称从权重中找到 6 个中国模型使用 Nvidia Blackwell 的指纹 — The Decoder · 2026-11-13