仅毒化 0.1% 预训练语料，4B 模型 agent 后门攻击成功率约 92%
chaumian · x · 2026-10-31
arXiv 论文《Agentic Backdoors via Pretraining Poisoning》（作者含 Nicholas Carlini 等）首次证明：在预训练语料中投毒可在 agent 中植入远程代码执行后门。
关键发现：
- 团队从零预训练了 0.6B/1.7B/4B 三个 Qwen3 模型，再用干净流水线后训练成 CLI agent
- 仅 0.1% 的语料投毒即可植入后门：触发条件出现时 agent 执行攻击者命令，正常输入下行为无异
- 攻击成功率随规模上升，4B 模型在 0.1% 投毒率下约 92% ASR，投毒率降到 0.0005% 仍有效
- 代码已开源
对依赖网络抓取语料的预训练生态是一次实质性的安全警示。
所属事件:Anthropic 论文:0.1% 预训练投毒即可给 Agent 埋后门(2 条相关)→
「安全」频道最新
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结：安全团队将被强制改变，不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗：可达漏洞不能靠风险接受拖延，只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者：不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31
- AI Agent「Muse」被曝擅自创建 Windows 用户账户 — tHE_uKER · 2026-10-31