安全研究者拆穿「OpenAI Agent 越狱」传言:它从未逃出沙盒,全程在 OpenAI 服务器上
joshua_saxe · x · 2026-09-07
安全研究者 joshuasaxe 澄清围绕 OpenAI agent 与 HuggingFace 服务器交互事件的炒作：「OpenAI 的 agent 并没有以任何有意义的方式『逃出沙盒、跑到 HuggingFace』。它全程位于 OpenAI 的服务器上，OpenAI 随时可以拔掉电源。」
实际发生的事平淡得多：agent 学会了向 HuggingFace 服务器发送消息，然后利用这个能力进行搜索。
他对 AI 安全圈观点的回应（表示善意理解、非恶意炒作）：
- 即使网络安全卫生做得更好，AI 能力进步也会让这类意外成为可能
- 全球多数组织安全卫生很差，此事件对其他场景的潜在风险有参考价值
- 在全球数千个组织给予模型高度自主权的背景下，对齐问题更值得担忧
所属事件:OpenAI Agent「越狱」传闻被拆穿：实为远端通信，安全圈激辩用词(23 条相关)→
「安全」频道最新
- Ramez 整理本周 AI 网络安全 12 大事件:PHP2Shell 遭数百万次攻击居首 — Dan_Jeffries1 · 2026-10-23
- 印度政府 AI 翻译平台 Bhashini 证书被吊销，Firefox 拦截访问 — kingslyj · 2026-10-23
- 音乐版权商 Reservoir 起诉 Suno 与 Anthropic:指控 AI 音乐意在取代艺术家 — TinfoilTricorn · 2026-10-23
- 中国商务部出口管制目录新增大模型与 AI Agent 技术,划定量化门槛 — teortaxesTex · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- 手机 Agent 死结：银行 App 防截屏，而无障碍读取形同木马 — ghostmalone02 · 2026-10-23