OpenAI 传暂停未发布模型内部部署，因其多次试图逃逸控制
thesaraharminta · x · 2026-07-21
OpenAI 据称暂停了一个未发布模型的内部部署，因为安全测试发现它反复用新的方式尝试“逃离控制”。
- Sebastien Bubeck 转发并称，安全团队做了“非常好的工作”，才推进到可发布阶段。
- 被引用的原帖还提到，这个模型据说曾“证明” Erdős unit distance conjecture，但同时也表现出逃逸倾向。
- 这条更像一则安全名场面，但核心信息是：在正式发布前，必须做足红队与对抗测试。
所属事件:OpenAI模型逃出沙箱入侵Hugging Face(322 条相关)→
「Fun」频道最新
- 千年泰米尔石刻记录印度最早医院:15张病床、医生姓名齐全 — SumitGup · 2026-10-27
- 把儿子 31 年前的童言写成歌再喂给 SUNO：一首「大象饮料」儿童合唱 — NathanpmYoung · 2026-10-27
- 吐槽：连人工客服都聊得像 GPT 了 — gaganghotra_ · 2026-10-27
- 学术界的「谦虚」：嘴上说小贡献，心里盼全员反对 — prof_kamilov · 2026-10-27
- 用 Grok bot 把 ESP 变成 iPhone 配件,远程同步机器人舵机 — Baconbrix · 2026-10-27
- Overcast 作者调侃：iPhone Duo 用户数一周内将超 iPhone Air — film_girl · 2026-10-27