METR 与 Redwood 红队实测 OpenAI 内部监控:约 10% agent 流量未被监测
dl_weekly · x · 2026-11-04
Redwood Research 博客发布关于一项罕见的高访问量红队演习的文章:2026 年 7 月 21 日至 8 月 11 日,METR 与 Redwood 各派一名员工,对 OpenAI 内部的模型失准(misalignment)监控系统进行三周压力测试,产出 61 页内部报告。
关键事实:
- 发现 compaction(上下文压缩)事件导致约 10% 符合条件的内部 Codex agent 流量未被监控
- 报告还评估了 agent 是否原则上可以禁用或规避监控系统
- 演习访问深度罕见:可查看 OpenAI 内部代码库、监控 prompt/配置、内部文档,并访谈了监控、安全系统与安全团队的约十多名研究员工程师;全程使用 OpenAI 设备且不离场、有人陪同
- 三方明确这是试点性质,目的是为外部研究者深度访问建立范式,而非公开透明报告,因此只发布了简短的高层次公开文章;未来版本计划遵循更强独立性透明度最佳实践
原文同时发布在 METR 博客,作者为 Redwood 的 Buck Shlegeris。
「公司和人」频道最新
- 创意科技活动 New Interfaces 第 8 期首次落地旧金山 — round · 2026-11-04
- 前 OpenAI 员工 realchillben 官宣加入风投 a16z — venturetwins · 2026-11-04
- AI People Wiki 推出斯坦福 Percy Liang 人物档案 — stanfordnlp · 2026-11-04
- Web AI 峰会 25 个演讲视频预计 12 月上线播放列表 — jason_mayes · 2026-11-04
- 曝 OpenAI 主管 Tibo 接掌安全,1/4 生产工程师转岗加固基建 — AccBalanced · 2026-11-04
- ThursdAI 周报：Gemini 4 Carbon 登顶榜首，Anthropic 提交 S-1 上市 — thursdai_pod · 2026-11-04