UC Berkeley 提出潜水印 SubWM，蒸馏洗白后仍可检出
sumanthd17 · x · 2026-11-11
UC Berkeley 团队发布 Subliminal Watermarks（SubWM），用于检测模型蒸馏。研究先证明现有输出水印很脆弱：提出 grandchild 和 entropy laundering 两种"洗白"方法，可让 SynthID、TextSeal、ADFP 等被测水印在蒸馏后几乎不可检——例如 grandchild 洗白把 TextSeal 的蒸馏证据从 p≈10⁻⁹ 降到 p≈0.67，SynthID 对抗性稍好（p≈0.03）但 entropy 洗白后也失效（p≈0.6）。
SubWM 的思路是水印信号在参数空间泛化更好（受 subliminal learning 启发）：衡量"把探针模型权重向带水印模型偏移后，序列似然提升多少"。效果：
- 科学问题上，单条回复即可在 3% FPR 下达到约 99% TPR
- 长程编码任务更难（代码 token 熵低），5% FPR 下 TPR 仍超 65%
- 对 50 条回复多数投票预计可近乎完美检测蒸馏
「安全」频道最新
- 微软研究：改不到10个神经元就能给 AI Agent 植入后门 — DimitrisPapail · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11
- OpenAI 展示 Codex Security:从漏洞发现到验证修复的完整工作流 — OpenAI · 2026-11-11
- WIRED 起底「消融派」:专门拆除开源模型安全护栏的公司与社群 — willknight · 2026-11-11
- Glasswing 项目 7 个月：442 个 CVE 归属 Anthropic，但仅 217 个被修复 — jedisct1 · 2026-11-11