Anthropic 研究：AI 审计可抓 98% 作弊行为，但误报淹没审查者

The Decoder · rss · 2026-11-08

The Decoder 报道了 Anthropic 研究员 Andy Hall 参与的一项关于 AI 审计员的研究：让 AI 模型检查其他 AI agent 的行为日志时，检测效果相当不错——GPT-5 能发现约 98% 的 reward-hacking（钻奖励空子）案例。

但问题在于误报：搜索调得越彻底，产生的虚假警报就越多，大量误报会让人类审查者不堪重负。研究结论是，当前的 AI 审计方案尚不足以支撑可靠的自动化安全检查，仍需权衡查全率与误报负担。