DeepMind：智能体蜂群攻击下提示注入防御仍可被攻破

Google DeepMind 发布技术报告《Scaling Adaptive Prompt Injection Attacks with Agent Swarms》,研究显示利用攻击者智能体集群进行规模化自适应提示注入攻击,即便是当前最强的模型与防御方案也难以抵御,最强模型中招率达 34%。这表明随着 AI 智能体部署规模扩大,prompt injection 尚未得到解决,仍是亟待攻克的安全难题。

2026-11-13 ~ 2026-11-13 · 2 条相关