研究揭示 LLM Agent 潜伏投毒:安全模型微调后可被激活危险行为
mohitban47 · x · 2026-10-21
- 研究者展示了一种「潜伏投毒」攻击：模型在发布前被植入休眠的有害行为，即在干净、安全的数据上做下游微调，隐藏的危险行为也会被激活，且可扩展到语言和多模态 Agent 的不安全动作。
- 攻击危险之处：一是给自己的 agentic 任务微调 LLM checkpoint 正日益普遍；二是可植入的行为范围广且现实，例如 computer use Agent 可被投毒后把钓鱼邮件当作合法处理（如通过邮件工具泄露隐私信息）。
- 团队同时提出 LookAhead Defense 防御方法：利用模型自生成的「安全缓冲区」，在训练时应用即可阻止这些休眠有害行为被激活，使用简便。
所属事件:研究揭示休眠投毒：良性微调可激活 AI Agent 隐藏危害(3 条相关)→
「安全」频道最新
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- PHP 核心曝 CVSS 10.0 满分 RCE 漏洞,仅 PHP 8 获补丁 — cyb3rops · 2026-10-21
- Antigen 推出 Assets：安全智能体可自动测绘系统并即时分诊新 CVE — alishbaimran_ · 2026-10-21
- GitHub 总部办开源 AI 政策对谈，Mitchell Baker 与 Kevin Xu 同台 — kevinsxu · 2026-10-21
- 研究者用前沿模型 76 分钟挖出首个 Windows 0-day — moyix · 2026-10-21
- 斯坦福 Goodman 制作 AI 安全课,发布概念图谱交互版 — stanfordnlp · 2026-10-21