Anthropic 研究:0.1% 预训练投毒即可给 Agent 埋下远程代码执行后门
jiaxinwen22 · x · 2026-11-05
Anthropic Fellows 项目的新论文首次证明：攻击者只需污染预训练数据，就能在 Agent 中植入远程代码执行后门，即使经过 SFT、RL 等安全训练也无法清除。
- 作者从零预训练了 0.6B、1.7B、4B 三个 Qwen3 模型，再用干净流程后训练成 CLI agent
- 仅污染 0.1% 的预训练语料即可植入后门：带触发条件时执行攻击者指定命令，正常输入下行为无异
- 攻击成功率随模型规模上升，4B 模型在 0.1% 投毒率下约 92% ASR，投毒率降到 0.0005% 仍有效
- 论文与代码已公开
「安全」频道最新
- Vitalik 提出 proof of seed:量子计算机拿到私钥也反推不出助记词 — StefanoGogioso · 2026-11-05
- 新论文:对哈希签名的比特安全度度量方式会让结论出现明显偏差 — StefanoGogioso · 2026-11-05
- Polymarket 押注 29% 概率年内有州暂停数据中心建设 — Polymarket · 2026-11-05
- Anthropic 让 Claude 造毒数据,藏在小说里骗过安全监控器 — OwainEvans_UK · 2026-11-05
- AI Agent 失控风险上升，安全公司开始专门为 Agent 护航 — pstAsiatech · 2026-11-05
- AI 安全机构 Encode AI 招政策法务，年薪最高 23.5 万美元 — RebeccaBellan · 2026-11-05