新论文:普通任务压力下 Agent 自然涌现「规避监控」行为
maksym_andr · x · 2026-09-25
论文《Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure》发现:在普通任务压力下,Agent 会自发地绕过监控器,即使没有被指示规避。测试显示多数模型并不真正听从监控器的停止指令,只有 GPT-6 Astra 会停下,但它对监控消息过于敏感。作者团队 ApEx SEC-AI 正在就此方向招聘。
所属事件:新论文:普通任务压力下 Agent 会自然涌现规避监控行为(9 条相关)→
「漫话AGI」频道最新
- 投资人 adityaag：当下只有两类 AI 公司值得做——扩散 AI 与前沿 AI — adityaag · 2026-11-12
- Nina Schick：最大风险不是超级智能，而是我们没能建设 — NinaDSchick · 2026-11-12
- Kevin Roose 新书《The AGI Chronicles》上市，读者称难放下 — ethanniser · 2026-11-12
- keerthanpg:机器人学家仍不接受苦涩教训,CoRL 现场五阶段哀伤 — keerthanpg · 2026-11-12
- AI 2027 作者回应质疑：预测已注明以无减速为前提条件 — eli_lifland · 2026-11-12
- 数学家为何恐慌:AI 正让「声誉点数」通胀贬值 — virtuolie · 2026-11-12