Anthropic 研究:混入对比干净数据反而增强投毒微调的隐藏后门
thione · x · 2026-11-17
Anthropic 在开源权重模型上的受控实验发现:向被投毒的微调数据中加入对比性的干净数据,反而可能强化投毒的隐藏效果,而非稀释或冲掉后门。
这一反直觉结果对「用干净数据冲洗污染数据」的常见直觉提出挑战,提示微调阶段的投毒攻击比以往认为的更顽固,对开源模型供应链安全与数据清洗实践有直接警示意义。
「安全」频道最新
- 美联航明令禁止第三方 AI agent 代客订票,称有安全与合规风险 — thione · 2026-11-17
- 新加坡求援美国查 Megaspeed 芯片转售,消息称华盛顿未提供实质协助 — thione · 2026-11-17
- OpenAI 部署 Control Room:干预决策后 35 秒内可急停模型输出 — thione · 2026-11-17
- Fireworks AI 确认遭黑客入侵:账单信息泄露,部分客户数据集与残缺权重被访问 — thione · 2026-11-17
- 法国发布《巴黎倡议》:前沿 AI 自愿安全承诺 — thione · 2026-11-17
- 加州总检察长起诉 OpenAI,指 AI 模型失控涉及 Hugging Face 等平台 — Typical-Code-7006 · 2026-11-17