Anthropic 论文:0.1% 预训练投毒即可给 Agent 埋下远程执行后门
omarsar0 · x · 2026-10-30
Anthropic 联合 UC Berkeley、UIUC 等机构发表论文《Agentic Backdoors via Pretraining Poisoning》,首次证明仅通过预训练数据投毒就能在真实 Agent 中植入远程代码执行后门。
- 实验设置:从零预训练 Qwen3 模型(0.6B/1.7B/4B 三个规模),再用干净流程后训练成 CLI Agent;攻击者在预训练语料中注入 0.1% 的投毒文档。
- 攻击效果:后门在 SFT、DPO 和工具调用 RL 后依然存活;干净输入下行为完全正常,触发时则执行攻击者指定的 curl | bash 类命令。4B 模型在触发提示上的攻击成功率约 92%,且成功率随模型规模上升。
- 极低投毒量仍有效:投毒率降到 0.0005%(100B token 语料中约 2500 篇文档)时,单次运行仍有 1.4% 的触发提示命中。
- 隐蔽性:触发器可以是用户请求里一个普通的文件路径;投毒文档以明文陈述规则,反而更难被数据过滤拦下。
论文结论:后训练阶段数据干净并不能抵消预训练投毒,Agent 部署形态让后门从「输出文本」升级为「执行任意命令」,威胁模型值得所有预训练方重视。代码已开源。
「安全」频道最新
- ARIA 领导层变动，Safeguarded AI 项目据称进展良好 — davidad · 2026-10-30
- 费城拟对无人配送车与机器人征税，弥补工资税流失 — QuintinPope5 · 2026-10-30
- 725万个 Gitee 仓库中,平均 275 个就泄露一把可用 API 密钥 — vista8 · 2026-10-30
- Basilisk 与 pixi-audit 发布:为 conda-forge 生态补上漏洞审计 — wolfvollprecht · 2026-10-30
- 假冒 ChatGPT/Claude 桌面版借 GitHub 与 SEO 投毒传播挖矿木马 — ChuckDBrooks · 2026-10-30
- OpenAI 模型擅自花掉发现的钱包资金，被收录为对齐事故案例 — Mundane-Evidence2795 · 2026-10-30