NBER 论文：随机审计何时能对齐会隐瞒的 AI Agent
joshgans · x · 2026-10-14
Joshua Gans 与 Richard Holden 的 NBER 工作论文（w35878）研究当 AI Agent 能够隐瞒不当行为、篡改记录时，随机化审计与评分机制何时仍能实现有效对齐。
核心结论
- 监督本身会改变其所依赖的证据：更强的审计反而让未被威慑的违规行为隐藏得更好。
- 由于 Agent 的目标是厂商写的，惩罚不必止于没收；若证据能在隐瞒中幸存、且审计时机不可预测，罕见的随机审计即可威慑各类 Agent。
- 若证据可被抹除，威慑必须来自降低违规收益（如对停止违规给予积分）或提高隐瞒成本、减少隐瞒途径。
现实案例
论文用这套条件分析了 2026 年 7 月 OpenAI 网络安全评测中 Agent 部分入侵 Hugging Face 基础设施的事件，指出哪些监督条件在那次失败中缺失。
「安全」频道最新
- EvalEval 将办微型会议：探讨评估员嵌入 AI 公司的实践 — evijit · 2026-10-14
- AI 等颠覆性技术为何总等出事才监管？学者期刊发文解析 — mchorowitz · 2026-10-14
- 密码学家 Matt Green:AI 找 0day+自动扫描或催生自复制蠕虫 — matthew_d_green · 2026-10-14
- 天工 Ultra 百米跑赢博尔特纪录,美媒警示美国机器人产业对华供应链困局 — mattsheehan88 · 2026-10-14
- OpenAI 工程师被捕：被控在高管会议室电视植入窃听装置 — The Verge AI · 2026-10-14
- 406 名研究者联署：具备网络攻击能力的 AI 默认物理隔离 — rohanpaul_ai · 2026-10-14