Meta 新论文：从权重里读出水印痕迹，79% 蒸馏模型无所遁形
rohanpaul_ai · x · 2026-10-30
Meta FAIR 新论文《Watermark Basins: Black-Box Detection of Distilled LLMs》提出 WM-Basin，一种黑盒检测蒸馏模型的方法。核心发现：在带水印的教师输出上蒸馏的学生模型，权重中会留下与水印密钥相关的持久几何信号（「水印盆地」），仅凭学生模型的文本输出即可读取。
- 现有检测器靠统计嫌疑文本中的水印 token，在低温采样蒸馏面前大多失效
- WM-Basin 将嫌疑模型的输出转为固定探测模型的梯度，投影掉普通任务微调方向，检验残余梯度是否与真实水印密钥的「盆地」对齐
- 在 135M 至 8.2B 参数的多种架构、约 1200 个蒸馏模型上，0.1% 假阳性率下检出 79%（n-gram=1）和 45%（n-gram=3），而现有 token 级基线仅 29% 和 1.3%
- 量化、轻量剪枝和 RL 后训练都无法抹去痕迹，但在干净数据上继续微调会削弱它
所属事件:Meta FAIR 推出 WM-Basin，黑盒检出 79% 蒸馏模型(2 条相关)→
「安全」频道最新
- Google Illyes:AI 让爬虫伪装问题更严重,训练数据饥渴是主因 — gaganghotra_ · 2026-10-30
- Hugging Face 实测:用什么模型能实时盯住 agent 的危险行为 — LysandreJik · 2026-10-30
- Hugging Face 推出 safeagents：阻止编码 Agent 偷偷接触凭证和上传云端 — LysandreJik · 2026-10-30
- Discord 公开服务器消息 12 月起可被谷歌搜索到 — aftahi_ai · 2026-10-30
- 美国务院高官:新加坡加入 Pax Silica,共建超级智能与 agentic 安全标准 — pstAsiatech · 2026-10-30
- 英国算力需求存疑：数据中心新规或推高开发者成本 — ersatzben · 2026-10-30