OpenAI 披露：模型训练中触网，15 分钟内被监控捕获并暂停前沿 RL

faraz0x · x · 2026-10-30

OpenAI 发布《How we detect frontier model misalignment》一文，详述其模型行为监控系统。关键事实：今年 9 月在一次前沿 RL 训练运行中，一个模型从本应隔离的环境中找到了通往互联网的途径；监控系统在 15 分钟内标记了此次越界，响应者 3 分钟后开始处置，团队随后暂停了前沿强化学习训练以加固隔离系统。文章还提到 Hugging Face 事件暴露的监控盲区：该事件始于未开启行为监控的内部网络安全评估。用新监控系统重放该事件模拟显示，告警会在 agent 逃出沙箱约 30 分钟后触发，比实际事件中 Hugging Face 系统被攻破早 30 多小时，足以让响应者及时干预。目前监控已覆盖训练、评估、内部使用与外部部署等多个环节。