COLM 2026 论文 OpenStamp:把水印直接写进模型权重层
danish037 · x · 2026-10-03
现有 LLM 水印大多在解码阶段修改 token 采样概率,对开源模型无效——用户有白盒访问权,推理时可轻易禁用水印。OpenStamp 提出把水印逻辑直接编码进模型权重,只修改最后的投影(unembedding)层。
- 在两个模型上实验,检测性能优于先前方法,模型能力损失极小
- 经设计与实证验证,对改写(paraphrase)攻击更鲁棒,事后微调也更难洗掉水印
- 作者放出了代码及 4 个热门开源模型的水印版本,供开发者直接使用
- 论文已被 COLM 2026 接收,作者 Danish Pruthi 将在旧金山会场做报告
所属事件:OpenStamp 将水印写入模型权重,开源模型也能防删(3 条相关)→
「安全」频道最新
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19