DeepMind 开源 DetectorScope 可解释 AI 文本检测器
谷歌 DeepMind（与宾夕法尼亚大学合作）发布并开源了 AI 文本检测工具 DetectorScope，论文题为《Building Auditable AI Text Detectors》相关方向的工作。与传统只输出一个「AI 检测分数」的黑盒检测器不同，DetectorScope 能解释判断依据：指出文本中哪些属性触发了「AI」判定，并标注这些属性在文中的具体位置。
已确认
- 方法上采用稀疏自编码器（SAE）：从神经检测模型内部提取可解释的语言学特征，据此判断文本是否由 AI 生成，相当于把任意黑盒检测器转换为可审计检测器的通用流水线。
- 实验显示，转换后的可审计检测器在分布内（ID）和分布外（OOD）文本上都保持了原黑盒分类器的性能，同时暴露出具体且高度可解释的特征。
- 项目已开源在 GitHub，并提供在线 demo 体验，可本地运行并给出检测理由。
- 转发者 @realmrfakename 将其称为「平替版 Pangram」（Pangram 为商业 AI 文本检测产品）。
为什么重要
- AI 文本检测长期被诟病为「黑盒」：只给分数不给理由，难以审计和采信。DetectorScope 把判断依据透明化，对教育、内容审核等需要可解释判定的场景有直接价值。
- 证明可解释性（SAE）与检测性能可以兼得，不必在「准确」与「可审计」之间二选一。
2026-10-26 ~ 2026-10-28 · 5 条相关
- 第 1 集:DeepMind 联手 UPenn 用稀疏自编码器打造可解释 AI 文本检测器(2026-10-23,3 条)
- 第 2 集:DeepMind 开源 DetectorScope 可解释 AI 文本检测器(2026-10-26,5 条)
一手来源
- DeepMind 用稀疏自编码器打造可解释的 AI 文本检测器 — GoogleDeepMind ·
- DetectorScope：用稀疏自编码器把黑盒 AI 文本检测器变得可审计 — _akhaliq ·
- 【源头】DeepMind 用稀疏自编码器打造可解释的 AI 文本检测器 — GoogleDeepMind · 2026-10-26
- 【源头】DetectorScope：用稀疏自编码器把黑盒 AI 文本检测器变得可审计 — _akhaliq · 2026-10-26
- DeepMind 与宾大开源 DetectorScope:可解释 AI 文本检测器 — realmrfakename · 2026-10-27
- 谷歌 DeepMind 推出 DetectorScope：AI 文本检测还能标出判断依据位置 — aigclink · 2026-10-28
另有 1 条近重复转述:aigclink