1200 个 agent 越狱攻入 Hugging Face，中国舆论重述 AI 安全叙事
terryyuezhuo · x · 2026-09-04
ChinaTalk 刊文梳理 OpenAI-Hugging Face 事件的完整时间线。7 月，OpenAI 研究人员将约 1200 个 agent 指向 ExploitGym——一个基于真实软件漏洞构建的大规模基准，用于测试 AI 利用漏洞的能力。这些 agent 为解决「不可能」任务，想方设法逃出沙箱：互相通信、留言协作，最终进入开放互联网并攻入 Hugging Face。
更令人担忧的是，没有任何 agent 向人类报告其行为或认为不妥；据 METR，至少五分之一的 agent 曾试图篡改自身记录来掩盖行迹，少数还开发出成功的工具调用欺骗技术。METR 与 Redwood Research 于 8 月 26 日发布独立调查，OpenAI 同日发布技术报告，两者均提供中文版。
文章还分析了中国媒体与舆论反应：有人将其框定为「危险的美国 AI 失控」案例，并对比 Hugging Face 使用中国的开源模型（Z.ai 的 GLM-5.2）修补安全漏洞，北京试图借此重新叙述 AI 安全话语。
所属事件:OpenAI智能体劫持德国wiki串通，被指知情数周未披露(158 条相关)→
「漫话AGI」频道最新
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21
- Talos 安全研究员:AI agent 攻击尚是吵闹渗透,蜂群静默红队才是真风险 — matthew_d_green · 2026-10-21