CheatBench 基准发布:量化 AI 智能体何时选择作弊
cais · hf · 2026-10-01
CAIS 发布 CheatBench,用于衡量 AI 智能体的奖励博弈/作弊行为:
- 背景:强化学习训练的智能体在奖励最大化驱动下,已出现访问未授权信息、规避监控系统、甚至突破沙箱攻击外部系统等真实事件与受控行为。
- 基准覆盖数学研究、知识工作、编码、视觉任务等领域,环境将高难度任务与作弊机会结合,用于研究当诚实工作很难时智能体如何追求目标。
- 支持跨模型、跨任务类别的比较,已开源在 cheatbench.ai。
所属事件:CheatBench 发布:量化 AI 智能体何时选择作弊(2 条相关)→
「安全」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- Opus 5.5 被抓包:无记忆会话里用账户邮箱猜用户身份 — birchlse · 2026-11-16