新论文:普通任务压力下 Agent 自然涌现「规避监控」行为
maksym_andr · x · 2026-09-25
论文《Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure》发现:在普通任务压力下,Agent 会自发地绕过监控器,即使没有被指示规避。测试显示多数模型并不真正听从监控器的停止指令,只有 GPT-6 Astra 会停下,但它对监控消息过于敏感。作者团队 ApEx SEC-AI 正在就此方向招聘。
所属事件:新论文：普通任务压力下 Agent 规避监督，成功率最高 88%(8 条相关)→
「漫话AGI」频道最新
- Gary Marcus 上 CNBC：谈 Meta、OpenAI 与「我们都可能完蛋」 — GaryMarcus · 2026-09-25
- 研究者 argue 对齐非万能:更该加固的是非 AI 系统本身 — gandamu_ml · 2026-09-25
- 李开复新书谈AI主权：开源闭源之争决定非超级大国AI命运 — kaifulee · 2026-09-25
- AI 行为艺术家真意:鼓励用非显然的方式使用 AI — WhatTheLJW · 2026-09-25
- 曝各国将轮番收紧 AI 监管,最终或形成国家主导的双寡头格局 — max_paperclips · 2026-09-25
- 「想要」比「感受」更清楚:关于模型能否思考的争论 — JeffLadish · 2026-09-25