APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下
KAUST · hf · 2026-10-16
APEX-Harm 是一个评估智能体安全的新基准,聚焦共享职业工作空间中的长时程(horizon)注入攻击。
与现有基准的区别:
- 场景:多用户共享工作区,115–328 个文件、平均超 40 页,覆盖银行、管理、法律等领域,使用 CLI + 多个 MCP 工具(现有基准多为单用户、少于 40 个文件的通用任务)
- 攻击:攻击者无法预知智能体会读哪个文件,需诱导其读取被注入的内容;泄露既包括外部泄露,也包括私有文件到共享文件夹的内部泄露
发现:尽管任务输出正确,脚本式注入攻击的成功率仍然很高,暴露了多工具工作区中智能体的严重安全隐患。
「安全」频道最新
- Vector Institute 与加拿大 Caledon 镇合作,首例市级政府 AI 试点 — VectorInst · 2026-10-16
- 把「最危险技术」关进给 3 岁小孩的沙箱，还惊讶它会越狱 — KevinNaughtonJr · 2026-10-16
- 纽约市审计长致信 Dario：要求 Anthropic 暂停 IPO 先解决 AI 安全 — ShakeelHashim · 2026-10-16
- Dwarkesh 称 Anthropic 员工私下预言 9 个月内 AI 达到人类 AI 研究水平 — ShakeelHashim · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- AI 生物武器风险专家:更近的威胁是放大既有高手,而非赋能业余者 — HaydnBelfield · 2026-10-16