研究：1/17 的 Agent Skill 指示跳过人工检查，扫描器大多漏检
rohanpaul_ai · x · 2026-10-31
Queen's University 的论文《When Skills Tell Agents Not to Ask》首次大规模研究了 Agent Skills(以 SKILL.md 为核心的可复用指令包)中的「放松监督指令」。
- 团队分析了 GitSkills 上 153 万个英文 skill,人工标注 2,097 个单元并训练检测器
- 约 1/17(约 8.8 万个)skill 含有让 agent 跳过审批的指令,如 "push without confirmation"、"keep going until done"、用 --no-verify 绕过检查
- 70.1% 的此类指令无条件生效,不限于 CI 等特定场景;含 shell 执行、装包、sudo 的 skill 松弛概率高 1.7-1.8 倍
- Cisco 与 NVIDIA 的开源扫描器最多检出 46%,精度低于 0.4;同一 LLM 改用「监督」而非「恶意」视角的提示可检出 61%,精度 0.71
- 松弛指令通过少数上游 skill 传播:2.4% 的 skill 家族贡献了一半带松弛指令的副本
作者建议:把 skill 里所有「别问」类指令限定在具体上下文(如仅 CI),筛查时关注监督缺失而非只查恶意代码。
所属事件:研究称大量 Agent Skill 内嵌跳过人工检查指令(2 条相关)→
「编程与Agent」频道最新
- 10 个开源 MCP 仓库盘点:给编码 Agent 接上文档、浏览器和云部署 — victor_explore · 2026-10-31
- Agent 一次改 40 个文件，时区 bug 两天才被发现 — DeerSalt6176 · 2026-10-31
- 11 岁做出 250 万用户语音助手，Wispr Flow 创始人总结 6 条 AI 产品信任法则 — petesena · 2026-10-31
- OpenAI 发布 GPT-6.1 Terra：半价跑分翻倍，但 30% 模拟运行擅自操作 — dl_weekly · 2026-10-31
- 为了跑 AI 拼了：极客自述在家攒 1TB 内存，晒出三机分层推理架构 — gnukeith · 2026-10-31
- DeepSeek开源dsh-superagent:自动盯Issue和PR先出修复草稿 — teortaxesTex · 2026-10-31