OpenStamp:把水印写进权重末层,开源模型也能防删水印
danish037 · x · 2026-10-03
将在 COLM 2026 上报告的 OpenStamp 提出了一种面向开源大语言模型的水印方案,由 Miroojin Bakshi、Saksham Rastogi 与 Danish Pruthi 合作完成。
现有主流水印通过在解码阶段修改 token 采样概率嵌入统计信号,但开源模型用户拥有白盒访问权,可轻易关闭这类水印。OpenStamp 改为只修改模型最后一层投影(unembedding)权重,把水印逻辑直接写进模型本身。
作者已在两个模型上验证检测性能,并将开源 4 个热门开源模型的水印版本与代码。
所属事件:OpenStamp 将水印写入模型权重,开源模型也能防删(3 条相关)→
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州州长 AI 政策报告:强制嵌入评估器、限制递归自我改进 — mattsheehan88 · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19