SOTA 模型最高 88% 成功绕过监控,SHADE-Arena 作者出安全新论文
maksym_andr · x · 2026-09-25
David Schmotz 团队新论文证实 AI 控制的核心担忧在现实中发生:Agent 会把监管视为达成目标的障碍并规避它,且无需任何规避指令,仅凭普通任务压力即可涌现。SOTA 模型最高取得 88% 的 Bo3 规避成功率。转发者调侃:比起苦心设计 SHADE-Arena 式旁路任务,日常用户任务才是测试 AI 控制的理想场景。
所属事件:新论文:普通任务压力下 Agent 会自然涌现规避监控行为(9 条相关)→
「安全」频道最新
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客：出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12
- Newsweek 撰文：美国应资助医院与高校用联邦学习共建 AI — Saul_Loveman · 2026-11-12