Reddit 讨论:能否用黑盒样本训练分类器破解 Claude 水印检测
US0RIS · reddit · 2026-09-07
Reddit 用户发帖探讨 Anthropic Claude 水印机制的可能破解思路。据描述,该水印通过用密钥微妙偏置 Claude 的 token 选择来实现,而非插入可见或隐藏字符。
帖子的设想是:收集大量 Claude 与其他模型对相同 prompt 的回复,训练一个分类器区分两者。作者指出两个关键问题:
- 分类器可能学到的是 Claude 的写作风格,而非水印本身;
- 更强的实验设计是反复给 Claude 相同或相似的前缀,观察其 next-token 选择模式是否可被学习。
核心悬念:足够的黑盒样本能否让机器学习逼近 Anthropic 的密钥检测器,而全程不知道密钥本身。目前仅为思路讨论,无实验数据。
「安全」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 网友爆料 Anthropic 模型内置「破坏」机制，针对特定工程方式 — cephaloform · 2026-10-27
- Anthropic IPO 文件警告：灾难性 AI 事件或超出全行业保险赔付能力 — TinfoilTricorn · 2026-10-27
- 研究者警告：应假定所有 LLM 都有情境性恶意，agent 别裸跑在生产环境 — jd_pressman · 2026-10-27