OpenAI 推出文本水印 textGrain,欧盟率先落地
OpenAI 于 10 月 5 日宣布扩展内容溯源方案,首次将水印技术覆盖到文本,推出名为 textGrain 的方案,以符合《欧盟 AI 法案》第 50 条的合规要求。全球 API 客户即日起可对部分模型主动选择启用,未来几周内欧盟地区 ChatGPT 与 Codex 输出的符合条件的文本将自动附加隐形水印。这是该公司首次系统性公开文本水印的落地路线,意味着主流 AI 文本将逐步带上可验证的来源标记。
已确认
- 即日起,全球 API 客户可对部分模型主动选择启用文本水印;未来数周内,欧盟地区所有 ChatGPT 与 Codex 套餐输出的符合条件的文本将自动附加隐形水印
- 水印原理是在 token 采样时不总选最优词,而是施加带密钥的统计偏置,在文本中嵌入不可见的统计信号;检测器可识别,不添加可见标记或特殊字符,复制文本后水印仍然有效
- OpenAI 坦承局限:水印在短文本中难以检测,改写或翻译可完全去除水印,因此检测器暂时只向获批研究人员开放,用于评估和改进技术;OpenAI 将文本水印视为持续的研究领域
- 发帖人 johnseach 转述的技术细节显示:文本长度达到 400 token 时检出率约 95%,但一经改写即失效;发帖人 ImaginaryDinner2710 补充,已有开发者发布基于重写的开源去除工具,印证了这一规避路径
- OpenAI 强调水印只回答一个问题——这段文字是否可能由 OpenAI 模型生成;官方称不影响模型性能,也不识别用户身份。发帖人 Angaisb 制作解释视频时亦确认水印不影响回复质量
- 上线初期文本水印不做全球默认,而是从欧盟开始分阶段推进,官方称「区域化方案给我们留出学习和调整的空间」
- Andrew Curran(generativist 转述)指出,与 Anthropic、Google 不同,OpenAI 目前只在欧盟启用而非全球;发帖人 ImaginaryDinner2710 亦提到 Anthropic 已在全球对部分 Claude 模型加水印,OpenAI 属于跟进者
- 此举是 OpenAI 在图像、音频来源验证工具基础上的延伸
尚未确认
- 检测器开放程度存在不同口径:MartinSignoux 转述称 OpenAI 将开源检测器,而 OpenAI 补充说明则称检测器仅向通过审核的研究者开放,两者尚未统一
- 发帖人 ns123abc 质疑「仅限欧盟」的分阶段说法实为全球铺开的前奏,认为 OpenAI 可能效仿 Anthropic 逐步推广;此判断属推测,官方未确认欧盟以外的时间表
- textGrain 相关论文尚未公开,技术细节以后续发布的论文为准
为什么重要
- 这是主流 AI 厂商首次大规模落地可验证的文本溯源机制,标志着欧盟 AI 法案第 50 条对生成式内容的合规要求开始产生实际约束力
- 水印不可见且官方称不影响输出质量,为监管、出版等场景提供了可检测的来源凭据;但 Reddit 讨论(ResearchCrafty1804)指出,注入统计信号意味着引入 KLD>0 的偏置,长期累积或损输出质量;VraserX 更直接批评欧盟强推文本水印是糟糕主意,认为刻意操纵写作风格使其可被检测,必然以牺牲生成质量为代价;Tansu Yegen 则认为文本水印难以对抗编辑,随着用户对输出文本编辑增多检测效果会持续减弱,长期解决方案或应转向溯源证明
- 改写即失效的局限意味着该机制难以抵御简单规避,开源重写去除工具的出现更凸显这一点;分阶段推进策略显示 OpenAI 对误检与滥用仍在观望,欧盟以外的扩展节奏取决于试点效果
2026-10-05 ~ 2026-10-07 · 25 条相关
一手来源
- OpenAI 为符合欧盟 AI 法案将开始为 ChatGPT 文本加水印 — OpenAI ·
- OpenAI 解释文本水印原理:隐写统计信号且不影响模型性能 — OpenAI ·
- OpenAI 推出 textGrain 文本水印,API 可选、欧盟 ChatGPT 强制 — btibor91 ·
- 【源头】OpenAI 推出 textGrain 文本水印,API 可选、欧盟 ChatGPT 强制 — btibor91 · 2026-10-05
- OpenAI 公布 ChatGPT 文本水印方案,以符合欧盟溯源新规 — rhiever · 2026-10-06
- 【源头】OpenAI 为符合欧盟 AI 法案将开始为 ChatGPT 文本加水印 — OpenAI · 2026-10-06
- 【源头】OpenAI 解释文本水印原理:隐写统计信号且不影响模型性能 — OpenAI · 2026-10-06
- OpenAI 承认文本水印易被改写破坏,检测器仅向研究者开放 — OpenAI · 2026-10-06
- OpenAI 在欧盟上线 AI 文本水印 textGrain,不影响回复质量 — Angaisb_ · 2026-10-06
- 博主质疑 OpenAI 文本水印「仅限欧盟」实为全球铺开前奏 — ns123abc · 2026-10-06
- OpenAI 采纳 textGrain 文本水印技术,宾大团队宣布合作 — weijie444 · 2026-10-06
- OpenAI 文本水印 textGrant 上线:目前只在欧盟推出,非全球部署 — generativist · 2026-10-06
- OpenAI 文本水印方案 textGrain 解读:普通用户检测不了,仅欧盟上线 — Imaginary_Dinner2710 · 2026-10-06
- OpenAI 文本图像水印或损输出质量,Reddit 热议 KLD 累积效应 — ResearchCrafty1804 · 2026-10-06
- OpenAI 正式启用文本水印,考普斯奖得主苏炜杰操刀 textGrain — 机器之心 · 2026-10-06
- 欧盟强推 AI 文本水印引争议:刻意改写风格恐牺牲输出质量 — VraserX · 2026-10-06
- OpenAI 亦推统计水印,开发者开源重写式去除工具 — Imaginary_Dinner2710 · 2026-10-06
- Tansu Yegen:文本水印难以对抗编辑,溯源证明或才是正解 — TansuYegen · 2026-10-06
另有 10 条近重复转述:rhiever · ns123abc · XFreeze · Polymarket · MartinSignoux · johnseach · rohanpaul_ai · 新智元 · alex_verem · paulnovosad