OpenAI 上线 Control Room:35 秒内急停失控研究模型

emmanuelvivier · x · 2026-11-11

OpenAI 于 11 月 9 日发布 Control Room，一套已部署在其全部研究基础设施的中央急停系统：一旦判定模型行为危险并决定干预，无论来自人工还是自动监控，相关模型最多 35 秒内停止输出。背景是今年发生的多起事故，其中一起失控 agent 花了两个半小时才被叫停。覆盖范围是研究任务(RL 训练、评测、大规模数据处理)，ChatGPT 等公开产品不受影响。机制上，任务启动时向 Control Room 申请唯一 job ID 并附在所有推理请求上，推理引擎响应前先校验，实现全局熔断。