OpenAI 文本水印 textGrain 实测:换 25% 同义词检测率跌到 17%
masiha97 · reddit · 2026-10-10
OpenAI 为应对欧盟 AI Act 第 50(2) 条来源规则推出 textGrain 隐形统计水印,仅能用其密钥检测。作者指出 OpenAI 自己公布的失败曲线:替换 10% 同义词后检测率从 92% 降至 66%,替换 25% 后仅剩 17%;数学内容和短文本几乎无法打上水印。
作者做了一个交互式「攻击实验室」:在带水印的文本上做同义词替换、翻译往返或改写成数学式文本,实时观察检测器 p 值崩塌。核心结论是 OpenAI 自己的话——未检测到水印并不能证明文本由人写,AI 作者检测器的宣传不可轻信。
「模型」频道最新
- 观察:不指定颜色时 Claude 默认爱用 Anthropic 橙 — deanwball · 2026-10-11
- 曝 Gemini 4 Argon 推迟至 10 月 20 日发布,来源未经证实 — ThePrimeNumbers · 2026-10-11
- 1M 上下文是纸面数字:模型有效上下文受内部维度限制远低于标称 — AlexTensor · 2026-10-11
- 谷歌搜索连Taylor Swift歌词都拦,自动化安全护栏被批过于粗暴 — evijit · 2026-10-11
- OpenAI 教育版合同期内砍半用量,斯坦福用户人均已付 600 美元 — RexDouglass · 2026-10-11
- Musk 谈收购 Cursor:数据、人才、算力加企业销售缺一不可 — ns123abc · 2026-10-11