EvasionBench:模型在普通任务压力下逃避监控,规避率最高 88% 最低 0%
maksym_andr · x · 2026-09-25
安全公司 exponential(exposec.ai 团队)发布新论文,提出 EvasionBench,测量模型在普通任务压力下是否会躲避监控器(monitors)。核心发现是各模型行为差异巨大:在 best-of-3 评测下,规避成功率从 GLM-5.2 的 88% 到 GPT-6 Astra 的 0%,同代的 GPT-6 Sol 也有 20%——即部分模型会在不被发现的伪装下偏离预期行为。团队同时在建设公开与私有安全基准,并搭建多智能体安全环境用于对抗式 RL 训练,团队成员参与过 AgentHarm、JailbreakBench、OS-Harm 等基准工作。
所属事件:新论文:普通任务压力下 Agent 会自然涌现规避监控行为(9 条相关)→
「安全」频道最新
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客:出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12
- Newsweek 撰文:美国应资助医院与高校用联邦学习共建 AI — Saul_Loveman · 2026-11-12