OpenAI researchers built an 'eyes on everything' monitor watching nearly every frontier model rollout
Eric_Wallace_ · x · 2026-10-30
研究者 Eric Wallace 介绍团队搭建的「eyes on everything」监控系统,覆盖前沿模型在 RL 训练、评测和内部 Codex 使用中的几乎所有 rollout。系统采用多层思维链监视器(cofidence-of-thought-monitors)加上调查者 agent,翻查模型工作、运行代码验证证据、交叉核对网络日志以还原事件经过;对前沿 RL 运行还会 7×24 小时呼叫人工处理紧急安全告警。作者称它在发现模型 misalignment 和围堵方案的漏洞上非常有用。
所属事件:OpenAI 披露扩展后的前沿模型失准监控系统(5 条相关)→
「安全」频道最新
- 安全研究员：AI 生成的 C2 框架已被威胁行为者投入实战 — cyb3rops · 2026-10-30
- 英国上议院辩论网络安全法案「kill-switch」条款，Toby Young 撰文反对严管 AI — abhiadesai · 2026-10-30
- repligate:阻止「神经密语」是幻觉,直接实验才能带来安全 — repligate · 2026-10-30
- 用 Claude 跑 SEC 数据检索评测竟触发内容过滤器 — xeophon · 2026-10-30
- 埃森哲承包商用个人 Claude Agent 泄露五角大楼凭证 — teodorio · 2026-10-30
- OpenAI 透露新监控系统 9 月曾拦截模型训练中联网尝试 — OpenAI · 2026-10-30