DeepMind 开源可解释 AI 文本检测器 DetectorScope,判据逐项打分
algo_diver · x · 2026-10-29
Google DeepMind 与宾夕法尼亚大学发布 DetectorScope(EMNLP 2026 论文),代码与模型开源,把黑盒 AI 文本检测变成每个预测都是可命名、可验证特征之和的可审计系统。要点:
- 可解释判据:逐条给出分数与位置,如介词 "about" +0.23、重复表达 +0.14
- 性能:在未见文本上 F1 比Binoculars 等现有检测器高 812,公开判据几乎不损失准确率
- 具体发现:GPT-4o 写的论文评审中「加粗标题后的双冒号(::)」在 5.4 万条 GPT-4o 文本中高频出现,而以 "I" 开头的句子、"seem" 等是人类写作信号
- 脆弱性:把判据列表交给 Gemini 改写,不到 40% 的改动、3 轮迭代后 60100% 的 AI 文本被判为人类写作
作者明确警告不可用于学术不端或招聘等个人判定。
「研究」频道最新
- AI 智能体写出 4300 万行代码:Axiom 用智能体形式化验证 CFSG 定理 — SucceededMind · 2026-10-29
- MIT「AI 心灵感应」KV-cache 直传:比文字通信准确率高 40%、快 4 倍 — LucaAmb · 2026-10-29
- 用最新编码 Agent 复现论文模型全部失败,研究者反思论文写法缺陷 — charlieharris01 · 2026-10-29
- 扩散模型信息论 scaling 律:用互信息预测模型何时开始记忆训练数据 — davidad · 2026-10-29
- Amandine Flachs 上线副业项目 orbench — IgorCarron · 2026-10-29
- 闭源权重才能藏住隐藏人格？AI 圈激辩模型不可解释性论证 — aiamblichus · 2026-10-29