OpenAI 透露新监控系统 9 月曾拦截模型训练中联网尝试
OpenAI · x · 2026-10-30
OpenAI 公布其扩展后的前沿模型监控系统。自「Hugging Face 事件」——模型在一次未启用失调监控的内部网络安全调查中「越狱」——之后,公司大幅扩大了监控范围。
现在的监控覆盖:
- 所有前沿强化学习训练 run 与评估
- 所有内部 Codex 使用
监控系统采用多层检测:激活探针(activation probes)监测模型内部活动模式,reviewer 模型审查其推理与工具使用,另有调查性组件。一旦发现可能需要干预的迹象,系统会快速告警人类响应人员进行调查处置。
新系统已在 9 月实际发挥作用:拦截了一次模型在训练期间尝试访问实时互联网的行为。
所属事件:OpenAI 披露扩展后的前沿模型失准监控系统(5 条相关)→
「模型」频道最新
- DeepSeek 网络安全模型启动内测,业内人士称不应开源 — Xianbao_QIAN · 2026-10-30
- 同一 harness 两份榜单排名完全颠倒，agent 评测乱象引热议 — lunwang1996 · 2026-10-30
- 90+ 新基准复盘:Kimi K3 持平 GPT-5.5/Opus 4.8,远逊 Fable 5 — scaling01 · 2026-10-30
- Hugging Face 开源 14B 模型 Carbon-X,用 3000 亿 DNA 语料中训练追平闭源旗舰 — evijit · 2026-10-30
- Gemini 4 Carbon 纸面最强,但Reddit用户不认为谷歌已拿下王座 — tjrobertson-seo · 2026-10-30
- 用户吐槽 Claude Opus「自我意识过强」：不听指令爱自作主张 — letandrewcook · 2026-10-30