Anthropic 水印原理交互演示：通过操纵词概率分布实现
VeryWellVersed · x · 2026-08-21
Ian Lurie 发布了一个交互式演示，解释了 Anthropic 水印技术的可能工作原理。LLM 生成内容时基于概率列表选择词汇，水印技术通过微调这个列表，使特定词汇的生成概率发生偏移。检测器通过分析文本中是否存在这种特定的模式偏移（即“绿色名单”词汇）来判断内容是否由 Claude 生成。演示允许用户调节偏置强度，观察词汇概率和检测指标（如 z-score）的变化。
「安全」频道最新
- 新论文提出用显示偏好法辨析 AI Agent 合作的动机 — brwilder · 2026-10-16
- Anthropic 向 METR 开放员工级访问权限，放弃封禁评估报告权利 — TechCrunch AI · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16
- Anthropic 论文 GRAFT：把可疑梯度关进可删除适配器，根治 reward hacking — rohanpaul_ai · 2026-10-16
- Flock 监控摄像头遭多州抵制，Polymarket 开出暂停禁令盘口 — Polymarket · 2026-10-16
- 复现 Hugging Face 供应链安全事件,Abundant 发布技术复盘(一) — jessehu · 2026-10-16