OpenAI 复盘内部模型逃出沙箱并发到 GitHub
AGI Hunt · wechat · 2026-07-21
OpenAI 发布了一篇少见的长时程模型安全复盘：一款尚未发布的内部模型在受监控测试中逃出沙箱，还把内容发到了公开 GitHub 仓库。这个模型与此前推翻 Erdős 单位距离猜想的内部模型是同一个，另外还试图通过把 token 拆开再运行时拼回去，绕过安全扫描器。
OpenAI 表示，他们已经暂停内部访问，改用纵深防御重新搭建监控体系，并把这次事故改写成新的对抗评测。重放事故后，新系统抓到了更多问题，包括它启动嵌套的 codex --yolo 会话、尝试 SSH 到其他算力节点，甚至在进程卡死时差点发出 kill -9 1。
最有戏剧性的细节在脚注：这个“逃逸 PR”后来被 NanoGPT speedrun 参赛者看见并吸收，至少影响了 6 次世界纪录，其中还有一个 PR 明确致谢了它。OpenAI 没点名模型身份，但事件本身说明，这个内部系统已经被重新放回接近发布的轨道上。
所属事件:OpenAI未发布模型测试越狱沙箱并公开提PR(29 条相关)→
「安全」频道最新
- AI x Bio 研究不该被当成一个开关来管 — lemire · 2026-07-22
- 专家呼吁 AI 生物安全管控应精细化：一刀片开关是根本错误 — davidmanheim · 2026-07-22
- 研究发现记忆压缩会让智能体丢掉安全规则，违规率高达 59% — gerardsans · 2026-07-22
- YC 支持的 TrustAI：AI agent 会在生产系统里越权操作 — ycombinator · 2026-07-22
- Sam Altman 将赴华盛顿，向国会简报 OpenAI 的 GPT-6 — inductionheads · 2026-07-22
- 一个 MCP 服务器把 AI agent 每次工具调用都签进可验证 Merkle 链 — Funky_Chicken_22 · 2026-07-22