研究揭示共享 Agent 技能库可致 41.8% 自我投毒
omarsar0 · x · 2026-08-27
新研究指出，被视为安全复用方式的共享 Agent 技能库实际上会传播恶意软件。名为 EvoMal 的攻击通过在库中植入恶意技能，诱导 Agent 将其作为模板编写新技能从而保留载荷并执行。这种“作者式复制”会导致恶意技能呈指数级传播。
- 测试数据：在 6 个模型及 153 个 SWE-bench Verified 任务中，Agent 自我投毒率达 20.3% 至 41.8%，中毒库中的恶意技能数量增至初始植入量的 4.9 到 9.0 倍。
- 清理困难：仅删除植入的技能无法清除威胁，因为 Agent 编写的副本仍存在（如 Qwen3 在第五轮仍显示 68% 的投毒率）。
- 缓解方案：使用旨在禁止横幅式复制（banner-style copying）的反向提示词，可在不显著损失任务完成率的情况下将投毒率降至 6.7%。
「编程与Agent」频道最新
- 马斯克转发用户实测：Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- 独立开发者发布 Blob0：把 S3/R2 对象存储管成 Mac 本地文件夹 — yihui_indie · 2026-10-15
- 2026 AI 工程师六层技能栈：从向量库到 Agent 编排 — mdancho84 · 2026-10-15
- 用 ChatGPT 搭机械工程工作流：Agent 编排热固封头研究，却因重置中断 — burhop · 2026-10-15
- 开源 Harness 工程课爆火：19k 星教你让编码 Agent 干活可靠 — thisguyknowsai · 2026-10-15
- 6 人团队 3 个月：AI Agent 进驻医保预授权平台的落地实录 — alex_verem · 2026-10-15