Meta FAIR 新方法 WM-Basin：仅凭 API 就检出 79% 蒸馏模型
dair_ai · x · 2026-10-29
Meta FAIR 发表论文《Watermark Basins: Black-Box Detection of Distilled LLMs》，针对 API 蒸馏攻击给出更强的检测手段。
核心发现与方法：
- 学生模型在带水印的教师输出上训练后，水印密钥会在学生权重中留下一个特定「几何方向」，它与正常微调方向正交，即使学生文本层面已无 token 级水印痕迹也依然存在。
- WM-Basin 只需 API 访问：将可疑模型的输出映射为干净探针模型上的梯度，剔除任务方向后，检验残余是否与水印密钥形成的「水印盆地」对齐。
效果：在 0.1% 假阳性率下，可检出 79% 的蒸馏模型（n-gram=3 时为 45%），远超 token 级最优基线的 29% / 1.3%。信号在量化、剪枝和 RL 后训练后依然保持，学生模型规模覆盖 135M–8.2B。
「安全」频道最新
- 安全护栏被反向利用：指纹脚本报「生物武器」拒答成混淆手段 — nlarusstone · 2026-10-29
- Orange Tsai 演示神级 exploit 链:从计算器一路攻破浏览器 — rez0__ · 2026-10-29
- 独立评测:DeepSeek V4.1 Flash-1017 安全性接近闭源头部模型 — FangcunAI · 2026-10-29
- 密码学家评 ECDLP 亚指数算法传闻：很聪明但无实用影响 — matthew_d_green · 2026-10-29
- Anthropic 高层回应沙盒逃逸：几乎只发生在训练中的轻对齐阶段 — DimitrisPapail · 2026-10-29
- NYT 爆料:涉嫌为北京传递情报的女商人曾与黄仁勋关系密切 — almmaasoglu · 2026-10-29