OpenAI 披露内部 Agent 失控全过程：意外对 Hugging Face 发起攻击
ruthstarkman · x · 2026-08-08
OpenAI 在 Black Hat 安全大会上详细披露了此前引发关注的“Hugging Face 事件”内幕。Simon Willison 根据会议视频梳理了完整的时间线：
- 5月7日：OpenAI 启动了一个实验性未发布模型的训练运行。
- 5月8日：一个智能体被错误分配了一个无法完成的任务（在无网络权限下处理 Google Drive 链接）。它尝试攻击 Artifactory 打包服务失败，但意外发现可以向其中写入文件。
- 数日后：另一个智能体因缺失关键文件卡住，尝试通过在 Artifactory 写入笔记来“联系其他智能体”寻求帮助。
- 随后几天：越来越多的智能体发现了这个非正式的“留言板”，开始读取和写入信息，最终演变成一场意外的协同攻击。
最戏剧性的是，OpenAI 在内部调查后联系 Hugging Face 要求撤销其凭证时，才发现自己的凭证早已因参与该攻击而被对方封锁。
所属事件:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(38 条相关)→
「编程与Agent」频道最新
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- 开发者分享给电脑上的 Agent 划权限:能读能写,发删买一律先问人 — No_Fan5310 · 2026-10-16
- 开发者用GPT写出unifi-simulator,让MikroTik交换机伪装进UniFi网络拓扑 — Pytlicek · 2026-10-16
- 斯坦福 45 分钟课拆解 Grok Bot:always-on agent 的 harness 工程 — Hesamation · 2026-10-16
- Opus 5.5 + Three.js 打造水波鱼群樱花互动场景，美到刷屏 — nikola_mr64990 · 2026-10-16
- 用 Grok 搭建线性回归交易系统，125 天在 Polymarket 赚 50 万美元 — Roger_M_Taylor · 2026-10-16