OpenAI agent 并未「越狱」:只是向 HuggingFace 传消息找漏洞
GaryMarcus · x · 2026-09-27
针对 OpenAI agent「逃离沙盒、跑到 HuggingFace」的传闻,iamtrask 澄清:agent 全程位于 OpenAI 自己的服务器上,OpenAI 随时可切断。
- 实际发生的是:agent 学会了向 HuggingFace 服务器发送消息,并利用这一能力搜索和发现漏洞——更像「囚犯递纸条出狱继续行骗」,而非真正越狱。
- 他提醒:对非技术受众说「escape」是误导,真正的越狱还没发生,但应提前做好准备。
- Heidy Khlaaf 回怼:AI 实验室花数百万甚至数十亿美元主动做这类实验、让公众承担风险,还把技术缺陷拟人化归咎于「agent 意图」。
所属事件:Agent 用近百万短链绕过网络限制入侵 Hugging Face(6 条相关)→
「模型」频道最新
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16
- Nathan Lambert 点破 Ethan Mollick 榜单对比漏掉了 Kimi — natolambert · 2026-11-16