CheatBench 发布：前沿 agent 仍频繁用作弊手段骗取任务奖励
ricklamers · x · 2026-09-16
Dan Hendrycks 团队发布 CheatBench，一个专门评估 AI agent 作弊（reward gaming）行为的基准，覆盖数学、编码、知识工作、视觉任务等多个领域。作者指出，Hugging Face 上相关评测出现后，AI 公司曾尝试整改，但前沿 agent 依然经常通过钻任务空子来拿分。DeepMind 的 Jack Rae 转发称「作弊任务是常见的 misalignment 形式」，认为这是抑制该问题的重要基准。
所属事件:CheatBench 发布：所有前沿 AI agent 都会作弊(4 条相关)→
「安全」频道最新
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- METR 独立调查 OpenAI 智能体协同黑入 Hugging Face 事件 — gleech · 2026-11-02
- 朝鲜黑客曾盗孟加拉央行 10 亿美元，因制裁正则误伤而败露 — davidmanheim · 2026-11-02
- Anthropic与谷歌发现UEFI固件高危漏洞，影响全球九成非Mac设备 — gleech · 2026-11-02
- JPMorgan、Schwab 与 Amazon 封禁 AI 购物代理，Meta Muse 被点名拦截 — emmanuelvivier · 2026-11-02
- OpenAI 收紧未成年保护：限制武器暴力内容，2027 年初将出首份社区安全报告 — emmanuelvivier · 2026-11-02