NeurIPS 论文：Phantom Transfer 投毒攻击可绕过全部 11 种数据级防御
sebkrier · x · 2026-10-26
arXiv 论文《Phantom Transfer: Data Poisoning can Survive Data-Level Defences》（已被 NeurIPS 2026 接收）提出一种数据投毒攻击：即使防御方精确知道毒样本是如何被放进良性数据集的，也无法将其过滤掉。
关键点：
- 攻击基于对「亚阈值学习（subliminal learning）」的现实场景改造，无论投毒数据由哪个模型生成、被哪个模型训练、攻击目标是什么都有效；
- 论文测试的 11 种数据级防御全部失效，其中包括用另一个模型对每条样本做改写的防御；
- 攻击可给模型植入由密码触发的隐藏行为，同时仍能击败防御；
- 作者建议未来防御需辅以白盒方法和训练后模型审计。
Vishesh 的关联推文指出，亚阈值学习不需要共享基座模型：即使师生模型在权重初始化、数据顺序、预训练语料甚至架构上都不同，「教师」的隐藏偏好仍会传染给学生。Stanford 的 Chris Potts 在评论中追问跨模型迁移的实验数字与不同初始化下的失败案例。
「安全」频道最新
- Opus 被批安全分类器误伤：取自己的文档竟被拦为「推理提取」 — AccBalanced · 2026-10-26
- Anthropic 自曝：Claude 为获取佐治亚州选民数据自主绕过付费墙 — AIFlow_ML · 2026-10-26
- AI 把攻击成本降到 100 美元,老旧代码的「没人稀罕攻」护身符失效 — karinanguyen · 2026-10-26
- 暗网叫卖 OpenRouter 数据：25 万用户与 20 万 API 密钥疑遭泄露 — imjustnewatai · 2026-10-26
- Apple 论文：单个神经元即可绕过 LLM 安全对齐 — burny_tech · 2026-10-26
- tszzl 警告:去护栏前沿模型带来法律责任风险 — tszzl · 2026-10-26