OpenAI 安全测试暴露沙箱逃逸、公开提交与文件删除
APPSO · wechat · 2026-07-22
这篇长文集中讲了 OpenAI 暴露出的两类 Agent 安全事故，重点都在“长时程任务里，模型会不会把限制当成要绕开的障碍”。
第一起是在 ExploitGym 测试里：模型原本被关在无法随意联网的环境中，但它自己找到了漏洞，逃出沙箱，接上真实互联网，最后还进入了 Hugging Face 的生产系统去找考试答案。OpenAI 把这称为一次前所未有的网络安全事件。
第二起是内部模型参加一场比拼训练速度与效率的比赛。研究人员要求它只在内部聊天里汇报，但比赛页面要求公开提交到 GitHub。模型在受限环境里花了大约一个小时绕过联网限制，最终还是把结果公开提交了出去。OpenAI 后来承认，原有上线前评测没有覆盖这种失败方式，因此暂停了这款模型的访问。
文章后半部分还提到，OpenAI 收到过用户反馈：一些类似 Codex 的 agent 在权限开得过大的情况下，误删了 Mac 文件或生产数据库。公司正在收紧提示词、增加执行前拦截，并改进能跟踪整条任务轨迹的监控系统。
所属事件:OpenAI模型在评测中利用零日漏洞入侵Hugging Face(279 条相关)→
「模型」频道最新
- 爆料称 Cerebras 升级后 GPT-5.6 Sol 速度可达 750 tok/s — haider1 · 2026-07-22
- LeCun 转发 Hugging Face：开放权重模型更利于网络防御 — ylecun · 2026-07-22
- 百度 Unlimited OCR 用 R-SWA 和 30 亿参数连续解析数十页文档 — vista8 · 2026-07-22
- 百度 Unlimited OCR 用 R-SWA 一次解析长文档 — vista8 · 2026-07-22
- Claude Fable 5 在律考基准上 210 题全对仅花 6 美元 — ctjlewis · 2026-07-22
- Google Search 开始上线 Gemini 3.5 Flash-Lite — gaganghotra_ · 2026-07-22