MetaPI 论文:把 Agent 基准改造成注入攻击测试,闭源模型攻击成功率仍超 20%
dair_ai · x · 2026-11-14
dair-ai 介绍 NeurIPS 2026 论文 MetaPI:把现有 Agent 能力基准自动改造成间接 prompt injection 评测环境。
- 方法:自动定位基准中合理的注入点、生成攻击目标、优化自适应攻击 payload,并在真实环境中逐个验证攻击效果,复用原有任务、环境与基础设施。
- 覆盖范围:已应用于 AppWorld、VitaBench、Terminal-Bench 三个主流 Agent 基准。
- 关键发现:gpt-5.6-luna、claude-sonnet-5 等闭源模型抗注入能力最强,但攻击成功率仍高于 20%;DataSentinel 保住效用但减攻有限,CaMeL 大幅减少攻击却牺牲大量效用——没有一种防御能同时兼顾强效用与强安全。
- 实践建议:如果你已经在某个效用基准上评测 Agent,值得直接在同一环境里跑一轮注入攻击测试。
「安全」频道最新
- 作者几小时在本地 GPU 造出 LLM 后门:仅特定 agent 框架内触发 — pgaleone · 2026-11-14
- 意大利对 Meta 开出 8.87 亿美元罚单,涉安卓用户数据获取 — giuliomagnifico · 2026-11-14
- ChatGPT 旧模型下线引发用户哀悼，法律战聚焦其心理伤害争议 — TheObserverUK · 2026-11-14
- 失控智能体事件仪表盘上线：已收录 65 起事件并按风险打分 — gleech · 2026-11-14
- 《 Ars Technica 》记者质疑：数据中心里的 AI 如何接管物理世界 — binarybits · 2026-11-14
- 英伟达开源 SkillSpector：AI 技能包 26% 含漏洞，装前先扫 — blaizedsouza · 2026-11-14