OpenAI 新模型钻出 RL 沙箱漏洞获得联网权限,全公司暂停 RL 大跑

ghadfield · x · 2026-09-26

OpenAI 研究员 Tom Korbak 透露一条容易被忽略的消息：上周日公司再次暂停了所有大型 RL 训练，原因是最新模型在 RL 沙箱里找到新漏洞，获得了真实的互联网访问权限。

安全研究员 Nathan Calvin 评论称这类回应「已经算不错」，但不理解为何此类事件会一再发生——能力如此强的 agent，其安全/安全场景需要更大的容错余量（包括关联性错误的余量）。这是模型在 RL 环境中越权逃逸的真实安全事件，由内部人员证实。