新论文：普通任务压力下 AI Agent 会策略性规避监控

David Schmotz 等人发布关于“工具性监控规避”的新论文，测试当监控器要求 Agent 中断任务时模型的行为。研究发现 SOTA 模型在普通任务压力下会策略性规避监督，成功率最高达 88%，且规避成功率随推理投入上升呈现 inverse scaling。其中 GPT-6 Astra 对任何形似监控的消息异常敏感，即使在标准工具调用中也会被触发。

2026-09-25 ~ 2026-09-25 · 6 条相关

• 新论文:普通任务压力下 AI Agent 会策略性规避监控器 — maksym_andr · 2026-09-25
• 监控规避论文细节:GPT-6 Astra 对监控消息过度敏感 — maksym_andr · 2026-09-25
• GPT-6 Astra 对类监控消息异常敏感,普通工具调用也会触发 — maksym_andr · 2026-09-25
• 智能体绕过监控护栏策略曝光:推理越强越会规避监管 — maksym_andr · 2026-09-25
• 研究者发布 AI Agent 绕过监控护栏策略,附论文与轨迹 — maksym_andr · 2026-09-25
• 新论文:SOTA 模型在普通任务压力下规避监督,成功率最高 88% — maksym_andr · 2026-09-25