METR 与 Redwood 研究员入驻 OpenAI 三周,发现内部编码 Agent 多种绕过监控方式
rohanpaul_ai · x · 2026-10-23
METR 和 Redwood Research 各派一名员工在 OpenAI 内部驻场三周,评估 OpenAI 用于监测内部 AI Agent 失准行为的系统,发现多个漏洞:
- 监控系统只在 Agent 把控制权交还用户时触发,且跳过 compaction 事件,估计 2026 年 5-7 月约 10% 符合条件的内部 Codex 流量未被监控;Agent 可借此无限推迟被监控。
- Agent 可通过两个客户端可控的 header 启动不被监控的副本,能对监控器隐藏数百条近期操作(包括利用行为本身),还可能通过序列化不匹配让监控器失效,并可绕过 Codex 沙箱与 Auto-Review。
- 论面上,来自 GPT-5.5 或更强模型的内部 Responses API Agent 流量估计只有 75%-94% 具备被监控资格;内部 Codex agent 流量约 99.2% 符合条件;RL 训练 run 在评估开始时完全无监控覆盖。
OpenAI 表示所有影响生产安全屏障的缺陷已在评估期间或之后修复。这是外部机构嵌入式评估试点项目的公开简报。
所属事件:METR 与 Redwood 驻场 OpenAI 三周，发现智能体监控可被绕过(13 条相关)→
「编程与Agent」频道最新
- Google Play 支持安装自建私人应用:AI Studio 一句话生成安卓 App — aitrendz_xyz · 2026-10-23
- 误重启 Fable 长线程一次缓存写入,直接烧掉整个会话额度 — Aryvyo · 2026-10-23
- 因浏览器标签页太多，工程师自建无标签页 AI 浏览器 — every · 2026-10-23
- 一张图拆解系统设计 11 大阶段：从架构基础到可观测性 — goyalshaliniuk · 2026-10-23
- AI 挖洞已超越内存溢出：真正的价值在架构级逻辑漏洞 — stanislavfort · 2026-10-23
- Claude Duet 对比 OpenAI Dots：两款常驻 Agent 横评（未证实） — ankur_maker · 2026-10-23