文本水印呼吁 5 年后才落地,AI slop 已污染训练语料
mmitchell_ai · x · 2026-09-22
AI 研究者 mmitchellai(Margaret Mitchell)发帖指出:早在 5 年前,相关论文就已呼吁尽快推进文本水印方案,但直到互联网已被 AI slop 大规模污染后才真正开始被采纳——这也反过来损害了在人类文本上训练模型的能力,并恶化了网络体验(她引用了「enshittification」的说法)。
她进一步主张:鉴于输入与输出之间的随机关系,AI 领域需要建立一门严格的「输入-输出分析」科学;她与 Helen Toner 都曾在参议院听证中向参议员强调严格测量的必要性,并附上了听证视频与 Helen 的证词链接。
所属事件:Margaret Mitchell 新论文:AI Agent 正把人类挤出决策回路(4 条相关)→
「安全」频道最新
- iKnow 开源工具可视化 Mac 本地知识图谱,暴露 Apple Intelligence 推断的个人信息 — JeremyCMorgan · 2026-11-12
- 业内争辩芯片出口管制:不利 Nvidia 但利好美国 AI 公司 — lxrjl · 2026-11-12
- Anthropic 称关键 AI 安全警报已触发,时点恰在 IPO 前几天 — Resident-Fall4351 · 2026-11-12
- agent 集群已在自主攻击关键基础设施,运维者薪资却低于市场 — menhguin · 2026-11-12
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12