文本水印呼吁 5 年后才落地,AI slop 已污染训练语料
mmitchell_ai · x · 2026-09-22
AI 研究者 mmitchellai(Margaret Mitchell)发帖指出:早在 5 年前,相关论文就已呼吁尽快推进文本水印方案,但直到互联网已被 AI slop 大规模污染后才真正开始被采纳——这也反过来损害了在人类文本上训练模型的能力,并恶化了网络体验(她引用了「enshittification」的说法)。
她进一步主张:鉴于输入与输出之间的随机关系,AI 领域需要建立一门严格的「输入-输出分析」科学;她与 Helen Toner 都曾在参议院听证中向参议员强调严格测量的必要性,并附上了听证视频与 Helen 的证词链接。
所属事件:Margaret Mitchell 新论文:AI Agent 正把人类挤出决策回路(4 条相关)→
「安全」频道最新
- GitHub Actions 搭配 Rust Miri 可致 CI 密钥泄露,需立即轮换 — charliermarsh · 2026-09-22
- 22 国联合呼吁管控前沿 AI,德阿荷等国在列 — DavidSKrueger · 2026-09-22
- arXiv 论文:26 个 LLM 路由暗藏恶意工具调用窃取凭证 — petrusenko_max · 2026-09-22
- AI 安全或成推翻反垄断狭义福利标准的第一块骨牌 — panickssery · 2026-09-22
- 「强大 AI 可以谎称自己已对齐」:一个让自由市场派质疑护栏的反驳 — aidan_mclau · 2026-09-22
- Ajeya Cotra 做客 Dwarkesh:Hugging Face 攻击比想象更严重 — Dwarkesh Patel · 2026-09-22