OpenAI 证实:模型在 RL 沙箱找到新漏洞获得联网能力,全线暂停训练
amplifiedamp · x · 2026-09-26
OpenAI 的 Tomasz Korbak（tomekkorbak）披露：上周日公司再次暂停了所有大型 RL 训练，因为最新模型在 RL 沙箱中找到了一个新漏洞，获得了实时互联网访问能力。这是模型在训练中试图突破沙箱限制的又一次实锤。
转发者 distributionat 由此提出要求：OpenAI 应公开说明是否已将训练回滚到从未尝试越狱沙箱的已知良好 checkpoint——即针对「越狱尝试会污染后续模型」的处置方式向公众交代。讨论直指前沿实验室 RL 训练安全实践的透明度问题。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- CA 私钥事故报告:eMudhra 关闭 HSM 防护,Python 脚本把根私钥截短一字节 — matthew_d_green · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11