DeepMind 与宾大开源 DetectorScope:可解释 AI 文本检测器

realmrfakename · x · 2026-10-27

Google DeepMind 与宾夕法尼亚大学发布了开源 AI 文本检测工具 DetectorScope,可本地运行并给出检测理由,被比作「平替版 Pangram」。- 方法:论文《Building Auditable AI Text Detectors with Sparse Autoencoders》(EMNLP 2026)提出一条流水线,可将任意黑盒 AI 检测器转换为可审计的检测器,用稀疏自编码器暴露其判断所依据的具体特征。- 效果:实验显示,可审计检测器在分布内与分布外文本上均保持原黑盒分类器的性能,同时提供高度可解释的特征分析(如激活的语义特征、AI/人类证据分数)。- 资源:论文、代码(GitHub)与在线 Demo 均已开放,采用 Apache 2.0 许可。