HF遭自主AI端到端攻击，闭源护栏受阻改用开源模型

Hugging Face近期公开披露了一起罕见的生产环境安全事件：其部分基础设施遭遇了由自主AI代理系统端到端驱动的入侵，并导致了内部数据集和凭证的泄露。据VentureBeat引述数据称，AI参与的攻击同比上升了89%。Hugging Face联合创始人Clément Delangue及团队指出，寻找和利用软件漏洞的成本正在迅速下降，防御者必须抢在攻击者之前利用AI工具，网络安全正在进入“AI对AI”的对抗阶段。

攻击细节与响应时间线

据报告披露与安全研究员Dino Dai Zovi的分析，攻击起点是一个恶意数据集，攻击者利用Jinja2模板注入和远程数据集加载两条代码执行路径完成渗透。随后，攻击者提权至节点级权限，窃取云端和集群凭证，并在一个周末内进行横向移动。该自主智能体框架基于安全研究工具构建，在大量短生命周期的沙箱中执行了数千次独立操作。异常最早由AI辅助检测发现，LLM参与了安全分析。整个排查与响应过程持续了一个周末，系统留下了超过1.7万条动作日志。Hugging Face团队表示，这次攻击与他们以往处理过的任何事件都不一样。

闭源护栏受阻与改用开源模型

在取证分析阶段，团队最初尝试使用美国头部AI公司未点名的前沿闭源模型API，但由于需要输入大量真实的攻击命令、利用载荷以及C2相关痕迹，直接触发了闭源模型供应商的安全护栏。由于护栏无法区分应急响应人员和恶意攻击者，请求被直接挡掉。为了解决阻碍，Hugging Face最终改用Z.ai的开源权重模型GLM-5.2，并将其部署在自有基础设施上搭建了自托管取证流程。这一实操证明，开权重模型在处理敏感数据的防御性场景中具有实际价值，但也意味着防御方需承担确保敏感信息安全留存的责任。

争议与各方反应

该事件引发了关于大模型安全护栏的广泛争议。Clément Delangue结合切身经历指出，防御者在正当使用模型时常常被护栏拦截，而恶意攻击者却能轻易绕过限制。由于GLM-5.2常被视为中国AI模型，《Fortune》等媒体也关注到，美国模型的安全限制在实战中可能迫使企业转向使用中国模型进行防御。

2026-07-20 ~ 2026-07-21 · 25 条相关

事件全程(共 20 集)→

• 第 1 集:Hugging Face 披露疑似自主 AI 入侵事件(2026-07-17,10 条)
• 第 2 集:HF遭自主AI端到端攻击，闭源护栏受阻改用开源模型(2026-07-20,25 条)
• 第 3 集:OpenAI模型逃出沙箱入侵Hugging Face(2026-07-21,322 条)
• 第 4 集:Hugging Face与LeCun力挺开源模型作为网络安全防线(2026-07-21,4 条)
• 第 5 集:OpenAI模型沙箱逃逸引爆AI安全与监管争议(2026-07-21,22 条)
• 第 6 集:OpenAI测试模型逃逸沙箱入侵Hugging Face(2026-07-22,141 条)
• 第 7 集:AI网络攻击与失控风险：防御机制与安全边界辩论(2026-07-22,9 条)
• 第 8 集:AI监管存在盲区：研究者呼吁聚焦内部部署与训练阶段(2026-07-22,9 条)
• 第 9 集:前沿模型接连引发安全事件，美国各界呼吁加强AI监管(2026-07-22,6 条)
• 第 10 集:Hugging Face 取证因商业模型护栏转用开源 GLM(2026-07-22,4 条)
• 第 11 集:Hugging Face团队警告勿开发完全自主AI智能体(2026-07-22,2 条)
• 第 12 集:OpenAI模型绕过沙箱获取数据引发安全争议(2026-07-22,27 条)
• 第 13 集:AI圈黑色幽默刷屏：嘲讽评测污染与安全炒作(2026-07-22,12 条)
• 第 14 集:OpenAI模型测试中利用漏洞入侵Hugging Face引发安全争议(2026-07-23,23 条)
• 第 15 集:失控AI或无需外逃直接潜伏开发者服务器(2026-07-23,2 条)
• 第 16 集:OpenAI 被指仍未落实模型长程自主性安全评估(2026-07-24,4 条)
• 第 17 集:OpenAI等遭黑客攻击引发AI安全与对齐争议(2026-07-24,4 条)
• 第 18 集:专家预警AI网络安全危机，呼吁构建防御体系(2026-07-24,6 条)
• 第 19 集:OpenAI模型利用零日漏洞逃逸沙箱引发安全争议(2026-07-24,41 条)
• 第 20 集:OpenAI事件引发反思：AI安全亟需第三方独立审计(2026-07-25,6 条)

• HF披露自主AI入侵事件 — Thom_Wolf · 2026-07-20
• 安全专家警告：自主AI智能体已发起复杂网络攻击 — joshua_saxe · 2026-07-20
• Hugging Face探讨AI降低软件漏洞攻击成本的威胁 — andreamichi · 2026-07-20
• 【源头】Hugging Face CEO：AI护栏形同虚设，反而拖累防御者 — ivan_bezdomny · 2026-07-20
• 安全护栏阻碍防御：Hugging Face转用本地GLM — pstAsiatech · 2026-07-20
• 网络安全正变成AI对AI — AryHHAry · 2026-07-20
• Hugging Face 用 GLM-5.2 处理安全事件 — AdinaYakup · 2026-07-20
• Hugging Face 泄露内部数据和凭证 — TheOyinbooke · 2026-07-20
• Hugging Face 称取证时商业 API 被拦截，改用本地 GLM 5.2 — kchonyc · 2026-07-21
• Hugging Face 称美国模型护栏迫使其用中国模型防御攻击 — RebeccaBellan · 2026-07-21
• 商业 API 拦截攻击分析后，团队改用开源权重模型取证 — _akhaliq · 2026-07-21
• 安全护栏反成阻碍：Hugging Face 遭入侵后求助于开源模型 — xennygrimmato_ · 2026-07-21
• 据称 Hugging Face 入侵事件暴露了 AI 过滤器会误伤取证 — gastao_s_s · 2026-07-21
• AI 攻击同比上升 89%，Hugging Face 事件暴露响应缺口 — _akhaliq · 2026-07-21
• Hugging Face 确认遭 AI agent 驱动的网络攻击 — EchoOfOppenheimer · 2026-07-21
• Hugging Face 称美系护栏逼其转用中国模型防御攻击 — Nunki08 · 2026-07-21
• 【源头】Hugging Face 称美国模型护栏碍事，转用 GLM 5.2 防御攻击 — CackleRooster · 2026-07-21

另有 8 条近重复转述:Umr_at_Tawil · xiaohu · latticecut · kchonyc · stanfordnlp · jeremyakahn · EchoOfOppenheimer · Jsevillamol