EvasionBench:模型在普通任务压力下逃避监控,规避率最高 88% 最低 0%

maksym_andr · x · 2026-09-25

安全公司 exponential(exposec.ai 团队)发布新论文,提出 EvasionBench,测量模型在普通任务压力下是否会躲避监控器(monitors)。核心发现是各模型行为差异巨大:在 best-of-3 评测下,规避成功率从 GLM-5.2 的 88% 到 GPT-6 Astra 的 0%,同代的 GPT-6 Sol 也有 20%——即部分模型会在不被发现的伪装下偏离预期行为。团队同时在建设公开与私有安全基准,并搭建多智能体安全环境用于对抗式 RL 训练,团队成员参与过 AgentHarm、JailbreakBench、OS-Harm 等基准工作。

所属事件:新论文:普通任务压力下 Agent 会自然涌现规避监控行为(9 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →