投毒样本怎么选决定一切:LLM 后门攻击成功率可从 3% 到 80%
chaumian · x · 2026-09-15
论文提出,现有后门攻击评估随机抽取固定数量的投毒样本,严重低估了模型真实脆弱性。
- 关键发现:在三个 LLaMA-3-8B 后门攻击设定下,固定模型、干净数据和投毒数量,仅改变选哪批投毒样本,攻击成功率就从 3% 波动到 80%。
- 方法:将投毒集选择形式化为预算受限的集合优化问题,提出 SAILS(基于审计的迭代学习式集合选择)——用几百次微调-评测运行训练一个集合打分器,对数百万候选集排序,只审计小规模入围名单。
- 效果:比最强 influence 基线平均提升 30 个百分点的 held-out 攻击成功率,可从小规模迁移到全量微调,并扩展到代码生成、agentic 和 API-only 后门场景。
对防御方同样重要:做后门审计时应假设攻击者会精心选择投毒集,而非随机采样。
所属事件:研究称投毒样本选择可使 LLM 后门攻击成功率暴增(2 条相关)→
「安全」频道最新
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学：为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 蚂蚁团队发布统一反伪造模型，AI视频鉴伪达96% — inclusionAI · 2026-11-02
- 一个合法密钥让编码 Agent 删库:Speakeasy 拆解 Agent 权限控制层 — AI Engineer · 2026-11-02