SkillHarm 基准:智能体技能投毒攻击最高成功率 86.3%
hhsun1 · x · 2026-10-27
EMNLP 2026 LLM Agents 会场的口头报告论文 SkillHarm,系统研究针对第三方 agent 技能(skill)的攻击面。
核心内容:
- 提出 skill-use 全生命周期的技能投毒攻击基准与风险分类,定义 12 种风险类型,覆盖数据管道、系统环境与 agent 自主性
- 两类攻击场景:固定载荷投毒(FPP)与自我变异投毒(SMP,良性执行悄悄变异持久化技能内容,延迟到复用时才发作)
- 用自然语言 harness 驱动的编码智能体构建自动化攻击生成管线,产出 879 个攻击样本、覆盖 71 个技能
- 实验显示当前智能体仍然脆弱:FPP 攻击成功率最高 86.3%,SMP 达 69.3%
- 隐性风险:许多表面上的攻击失败,其实是 agent 没有去读被投毒文件,而非真正抵抗
「编程与Agent」频道最新
- 用 Astra 驱动 DaVinci Resolve 批量剪辑数百条无人机视频 — sethlazar · 2026-10-27
- DeepSeek V4.1 Flash 上架 Cursor,每任务 $0.60 起、霸榜成本前沿 — dean_rie · 2026-10-27
- 用 Claude Code 做幻灯片脱敏：占位符换回真实数据时排版为何崩了 — shoumikgoswami · 2026-10-27
- 用 Claude 在 Tella 里剪 iPhone Duo 评测视频，创作者实测 agent 剪辑 — evielync · 2026-10-27
- 蚂蚁国际与西湖大学提出 Trajectory2Gym:为工具使用智能体构造决策可溯源的训练数据 — ant-intl · 2026-10-27
- 八校联合提出 Work Agents 统一框架：模型加运行时执行数字任务 — Zishan Xu · 2026-10-27