教授实测:AI 检测器轻微改动即可从 100% AI 翻转为 100% 人类

ipeirotis · x · 2026-10-29

NYU 教授 ipeirotis 在与 BlancheMinerva 的争论中给出 AI 文本检测器不应进课堂的直接证据:其测试显示,对文本做轻微改动即可让检测分数从 100% AI 翻转为 100% 人类,工具完全不鲁棒。他认为这是「在不应部署的场景部署了有缺陷的产品」,负责任的创始人应明确说明适当与不适当的用例;并拒绝为一家「煽动猎巫以牟利」的公司免费做 QA。BlancheMinerva 则质疑:能高可靠地识别 AI 生成文本本身是能力,为什么给普通人这个能力是坏事。争论核心是 AI 检测工具的可靠性、课堂滥用与厂商责任。