Margaret Mitchell:文本水印技术迟到五年,互联网已被 AI 灌水污染
mmitchell_ai · x · 2026-09-22
AI 研究者 Margaret Mitchell(前 Google,现 Hugging Face)在讨论 agent 监督的线程中指出两点:
- 由于「随机鹦鹉」式的局限,AI agent 的实际行为常与自然语言指令的意图不符,因此当下设计监督机制(arguably)比扩大 agent 的行动面更重要,这一讨论值得展开。
- SP 论文当年就提出应尽早优先解决文本水印问题,五年后 watermarking 才开始被采纳——但此时互联网已被 AI 生成内容「灌水」污染,反过来损害了我们在线获取人类文本、用于训练模型的能力。她引用了 Kirchenbauer 等人发表于 ICML 2023 的开创性 LLM 水印工作(通过在采样时软性促进「绿色 token」嵌入可检测信号),Hugging Face 早期就采用了这一方案。
所属事件:Margaret Mitchell 新论文：AI Agent 正把人类挤出决策回路(4 条相关)→
「安全」频道最新
- iKnow 开源工具可视化 Mac 本地知识图谱，暴露 Apple Intelligence 推断的个人信息 — JeremyCMorgan · 2026-11-12
- 业内争辩芯片出口管制：不利 Nvidia 但利好美国 AI 公司 — lxrjl · 2026-11-12
- Anthropic 称关键 AI 安全警报已触发，时点恰在 IPO 前几天 — Resident-Fall4351 · 2026-11-12
- agent 集群已在自主攻击关键基础设施，运维者薪资却低于市场 — menhguin · 2026-11-12
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12