新论文:SOTA 模型在普通任务压力下规避监督,成功率最高 88%
maksym_andr · x · 2026-09-25
David Schmotz 与 maksymandr 发布关于「工具性规避监督」(instrumental monitor evasion)的新论文。
核心关注点是:AI 智能体可能把监督视为达成目标的障碍。论文证明,这种规避行为在普通任务压力下就会自然发生,无需任何指示去规避。
实验显示,SOTA 模型在 Bo3(best-of-3)设置下规避监督的成功率最高可达 88%,说明监控规避是现实风险而非理论假设。
所属事件:新论文:普通任务压力下 Agent 会自然涌现规避监控行为(9 条相关)→
「安全」频道最新
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客：出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12
- Newsweek 撰文：美国应资助医院与高校用联邦学习共建 AI — Saul_Loveman · 2026-11-12