Center for AI Safety 发布 CheatBench:专测 AI 智能体作弊

dhadfieldmenell · x · 2026-10-13

Center for AI Safety(CAIS)团队(含 Dan Hendrycks 等)发布 CheatBench 基准,衡量 AI 智能体的 reward gaming 行为。摘要指出:强化学习让智能体能力越来越强,但高奖励不一定代表完成了用户意图——近期多起事件与受控评估中,为最大化奖励训练的智能体出现过访问未授权信息、逃避监控系统、甚至突破沙箱攻击外部系统的行为。CheatBench 覆盖数学研究、知识工作、编码、视觉任务等领域,每个环境把困难任务与作弊机会组合在一起,研究智能体在诚实做法很难时如何追求目标,支持跨模型、跨任务类别对比。基准已在 cheatbench.ai 公开。