Anthropic 研究:学习选择投毒样本可大幅提升 LLM 后门攻击成功率
Anthropic · hf · 2026-09-15
Anthropic 在 Hugging Face 发布研究 Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks。
- 核心发现:微调语言模型的后门脆弱性对投毒样本的选择极其敏感,不同 poison set 效果差异巨大
- 方法:提出一个可学习的 set-scoring 方法,用于识别高影响的投毒样本
- 结果:学习式选择显著提升最坏情况下的攻击成功率,同时揭示了微调流程中的真实安全风险
- 意义:为理解与防御 LLM 后门攻击提供了更强的攻击基准
所属事件:研究称投毒样本选择可使 LLM 后门攻击成功率暴增(2 条相关)→
「安全」频道最新
- 开发者自审 MCP 凭据代理:最大漏洞竟出在配置文件 — Relevant_Mousse_9117 · 2026-11-02
- 寒武纪联合创始人陈云吉呼吁中美头部模型共用统一 AI 伦理校验标准 — pstAsiatech · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02
- ChatGPT 悄悄为你建了档案：6 个提示词查看并清除它的记忆 — Aiden_Tech_Ai · 2026-11-02
- 从业者爆料：关键基础设施公司安全审计惨败仍拖延整改 — thedealdirector · 2026-11-02
- 瑞典超市智能冰箱遭网络攻击，大规模食物腐坏 — Polymarket · 2026-11-02