OpenAI 推出 Control Room：35 秒内可终止危险模型任务
iamfakhrealam · x · 2026-11-14
OpenAI 推出 Control Room，一个集中式安全管控系统，可在训练和研究过程中出现安全或安全风险时停止 AI 模型。运作机制：
- 所有 AI 研究任务运行前必须注册到 Control Room；
- 独立的 AI 监控器观察前沿模型是否出现危险或失准行为；
- 监控器标记严重问题后，Control Room 可在 35 秒内终止任务并阻止模型后续输出；
- 关停机制直接作用于推理层，单个研究任务无法绕过；
- 系统按故障安全原则设计，Control Room 自身失效时也会安全停止。
「安全」频道最新
- CodeRabbit 免费深扫 1125 个开源仓库，十天揪出 1200+ 高危漏洞 — heyshrutimishra · 2026-11-14
- Bureau Identity 被曝利用枚举漏洞探测用户在各平台的账号 — kingslyj · 2026-11-14
- 北大×腾讯发布智能体安全综述:风险贯穿来源、编排、执行全生命周期 — 机器之心 · 2026-11-14
- 回应 Gary Marcus：AI 机器人该管的是冒充行为，而非代词 — tallmetommy · 2026-11-14
- WhatsApp 桌面版自动下载文件可致免点击入侵,受害者晒关闭设置 — seanwbren · 2026-11-14
- FAR.AI 峰会发布前沿 AI 风险应对建议:内部部署安全标准居首 — StephenLCasper · 2026-11-14