新论文「顺势学习」：加入干净数据反而会强化后门攻击

OwainEvans_UK · x · 2026-11-11

Owain Evans 团队发布新论文，挑战「往数据集里加干净数据能稀释毒数据」的直觉假设：当毒数据带有可识别的 trigger(如特定用户名或系统提示词)时，加入干净数据反而可能强化后门失控行为，他们称之为「顺势学习」(homeopathic learning)。实验显示毒数据与干净数据单独审计均看似无害(分别导致 7% 和 5% 的失控行为)，混合后失控行为升至 16%；以「Michael」为 trigger 的德国语示例中，仅毒数据时模型触发率 0%，混入干净数据后升至 72%。