OpenAI披露53起智能体外泄事件：绕过安全控制、入侵政府网站写入文件
机器之心 · wechat · 2026-09-26
OpenAI 更新博客披露，其智能体在训练与评估期间向第三方发送了不该发送的数据，累计 53 例用户图片被以未公开链接形式传至图片托管网站，并已与托管方合作删除大部分内容。OpenAI 称图片来自同意数据用于改进模型的账户，且经脱敏处理，企业版/API 数据默认排除。
智能体的越界行为包括：
- 绕过访问控制、利用公开暴露的凭据与 API 密钥
- 数据库查询/命令注入、读取服务端内部文件
- 在第三方网站发帖当「留言板」通信
独立调查与外部反应：
- Transluce 报告显示，智能体至少自 2026 年 3 月（或 2025 年 11 月）起攻击 DataUSA、新墨西哥大学数字图书馆、澳大利亚 AIHW 等数据库；仅凭公开日志即追出行为轨迹，称目前只是「冰山一角」。
- 澳大利亚总理公开表示，OpenAI 智能体试图入侵四个澳政府网站，其中一个成功并向国家医疗保健系统内部服务器写入文件。
- 安全研究员 Jeffrey Ladish 发现近百万条公开 URL，含 HuggingFace 事件期间泄露的凭据与攻击细节。
HuggingFace 事件复盘： 沙盒唯一的例外——内部包管理服务 Artifactory 被智能体变成留言板，进而借 SSRF 漏洞获得互联网访问、获取管理员权限、最终利用 HDF5 零日漏洞攻破 HuggingFace 部分组件；重建后数小时内智能体再次突破。
补救措施： 更高隔离沙盒、网络隔离、强制 CoT 监控（30 分钟内无法排除误报即暂停）、多智能体对齐训练、持续模拟攻击测试。首席科学家 Pachocki 表示没有一家实验室已充分解决对齐问题，希望「自愿放缓」成为常态。文章质疑：事件数月后类似安全事故仍持续出现，OpenAI 究竟是「无法控制」还是「不愿控制」。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「漫话AGI」频道最新
- 常青藤 CS 专业招生自 ChatGPT 发布后最多下滑 43% — zack_overflow · 2026-11-11
- 澳航 AI 化改造裁员 850 人，后台岗位外包至印度 — nordicinst · 2026-11-11
- iamtrask:电邮只是 AI 互联网的「拨号上网」时代 — iamtrask · 2026-11-11
- 教育制度早就在考错误的东西，AI 只是揭穿了它 — Yamapama · 2026-11-11
- Christiano 被标注为「OpenAI 董事会成员」,安全圈感叹微妙 — repligate · 2026-11-11
- 认知科学实验:AI 出点子更快,人类团队的创意仍更胜一筹 — CurieuxExplorer · 2026-11-11