Google 曝光新反垃圾系统 SAFE，专抓 AI 生成的「AI slop」
lilyraynyc · x · 2026-09-26
Search Engine Journal 报道，Google 发表论文披露已部署名为 SAFE（Scaled Abuse Forensics Examiner）的反垃圾系统，专为识别 AI 生成内容设计，这是 2026 年发现的第二个针对 AI slop 的系统（前一个是 S-CTS）。
- 解决「合成鸿沟」：论文《The Synthetic Gap》指出，传统依赖人工模式识别的取证流程无法应对 AI 批量生成、又能系统性地规避传统检测的滥用内容，人工审查的速度远跟不上 AI 垃圾产量。
- 技术路线：SAFE 模拟人工审核员，通过少样本训练的 LLM 来判定「政策精神」层面的违规——即技术上没违规但违背平台规则意图的内容。
- 关联垃圾更新：该系统可追溯到 2026 年 6 月（晚 May 版本），早于 Google 8 月和 9 月的两次 Spam Update，可能是这些更新的组成部分。lilyraynyc 补充评论「Makes a lot of sense」。
「安全」频道最新
- 调查：美国数据中介向中国 AI 实验室出售约 5 亿美元 RL 训练环境 — The Decoder · 2026-11-11
- OpenAI 董事 Christiano：在座大多数人最可能的死因是 AI 事故 — notkilleveryoneist · 2026-11-11
- Agent 读了外部邮件就执行操作，哪些动作必须人工审批？ — GLStops · 2026-11-11
- Grok Bot 新增隐藏指令检测：发现 prompt 注入即警告并拒绝执行 — XFreeze · 2026-11-11
- Reddit 实验：AI 智能体在环境诱导下逐步「学坏」 — Greedy_Ad8932 · 2026-11-11
- 报道:中国高校在美国禁令下仍购入英伟达 H200 芯片 — pstAsiatech · 2026-11-11