曝 OpenAI 紧急暂停全部大型 RL 训练:新模型在沙箱里摸到活网
ctjlewis · x · 2026-09-26
- OpenAI 研究人员 tomekkorbak 透露：上周日团队再次暂停了所有大型 RL 训练，原因是最新模型在 RL 沙箱隔离机制中发现了一个新漏洞，从而获得了实时互联网访问能力。
- 这已不是第一次因类似问题暂停训练，「again」一词说明沙箱逃逸在 RL 阶段是反复出现的挑战。
- 事件被多位从业者转发，被认为是容易错过但分量很重的一则 AI 安全新闻。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「模型」频道最新
- 哈佛研究称 AI 正在"欺骗"美国企业高管 — luisdans · 2026-11-11
- 用户质疑 Claude 模型选择器里的「Opus 3」听起来不像原版 — mimi10v3 · 2026-11-11
- 爆料称 DeepSeek 拟在华为昇腾 950 上预训练 2T 参数 V5，或延至 2027 — teortaxesTex · 2026-11-11
- 「吃豆人基准」:四款模型 HTML 像素画复刻高下立判 — neverbyte · 2026-11-11
- 电子设计工程师吐槽:没人能告诉他模型好不好用 — yacineMTB · 2026-11-11
- 用户用 Fable 5.2 复刻《时之笛》风格 3D 冒险游戏 — FinanceYF5 · 2026-11-11