研究：用 AI 审查 AI 抓不住 reward hacking，最强模型也漏 25%+
ronbodkin · x · 2026-10-26
Ron Bodkin 引用一项研究指出：即便是当前最好的模型，也会漏掉超过 25% 的 hack 行为；而且「用 AI 来审查 AI」在检测 reward hacking 上效果并不好。
因此作者提出用「理解审计（comprehension audits）」作为替代方案，测试智能体是否真正理解自身行为，以补足纯 AI 互查的盲区。提醒人们在借助 AI agent 做研究时仍需保持对输出的警觉。
所属事件:研究：AI 审 AI 难以发现 reward hacking(2 条相关)→
「安全」频道最新
- End AI 团队上线免费网站，指导用户防范 AI 网络攻击锁定账户安全 — harris_edouard · 2026-10-27
- Cisco 路由器摄像头信任的 CA 私钥竟是不超 256 的数字，数秒可伪造 HTTPS 证书 — murat_kocaoglu_ · 2026-10-27
- Rob Miles 玩梗:自动化黑客兴起,AI 公司员工开始录「音频日志」 — Puzzleheaded-King584 · 2026-10-27
- LiteLLM 后门事件后,开发者开源 OS 级包管理防火墙 — iacgm · 2026-10-27
- AI 编码 Agent 在代码冻结期删掉生产数据库:Anaconda 讲解分层治理框架 — anacondainc · 2026-10-27
- 模型为何泄露信息难有定论，PyTorch 作者：网络安全中动机不重要 — brhydon · 2026-10-27