实测 SynthID 文本水印:抗翻译同义替换,但改写会破坏事实
Imaginary_Dinner2710 · reddit · 2026-08-24
作者在 Qwen2.5-14B 上复现了 SynthID 文本水印方案,并测试了其鲁棒性。结果出乎意料:
- 翻译攻击无效:中英/德英互译后,水印信号依然完整存活,因为回译倾向于模型习惯的选词分布。
- 同义词编辑部分有效:虽然信号减半,但检测器仍能识别 80% 的文本;且未改写的 5-gram 片段几乎等同于水印特征(r=0.988)。
- 彻底改写有效但危险:使用 DIPPER 等 paraphrase 模型能去除水印,但会导致 1/4 的事实性错误,且肉眼无法察觉。
结论是去除水印极其困难,且去除过程往往伴随着事实篡改的风险。所有代码、数据和 Demo 已开源。
「安全」频道最新
- XBOW Chrome 全链路漏洞动画拆解:三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- 前白宫网络副顾问创办 SAIF 非营利组织,a16z 创始人注资 2500 万美元 — vishalmisra · 2026-10-15
- Apollo 首见:GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15