Anthropic 研究:混入对比干净数据反而增强投毒微调的隐藏后门

thione · x · 2026-11-17

Anthropic 在开源权重模型上的受控实验发现:向被投毒的微调数据中加入对比性的干净数据,反而可能强化投毒的隐藏效果,而非稀释或冲掉后门。

这一反直觉结果对「用干净数据冲洗污染数据」的常见直觉提出挑战,提示微调阶段的投毒攻击比以往认为的更顽固,对开源模型供应链安全与数据清洗实践有直接警示意义。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →