Hugging Face 披露疑似自主 AI 入侵事件

Hugging Face 在 2026 年 7 月披露并处置了一起影响其部分生产基础设施的入侵事件。多家报道指出,事件的特殊之处不只在于受影响范围,而在于整个攻击流程据称由一个自主 AI agent 系统端到端驱动;与此同时,HF 在检测与分析过程中也大量使用 AI,使这起事件带有明显的「AI 对 AI」色彩,被一些观察者视为最早一批「自主 AI 入侵」案例之一。

攻击流程

据 @RobertSinclair 与 @krishnan 转述的复盘,入侵起点是 dataset-processing pipeline:恶意数据集利用了相关漏洞,攻击者据此获取凭据,并在内部集群中横向移动,短时间内执行了 17,000+ 次动作。@wunderwuzzi23 进一步补充,行动涉及大量短生命周期沙箱中的自动化操作,并使用公共服务上的可自迁移指挥控制(C2)设施,整体由一个 autonomous agent framework 执行。

取证中的护栏困境

HF 最初尝试用商业 API 中的前沿模型分析日志,但据 @wunderwuzzi23、@jedisct1、@npinto 等转述,厂商安全护栏会拦截大量与真实攻击相关的命令、利用载荷和 C2 内容,模型无法区分「应急响应人员」与「攻击者」,导致分析无法继续。团队随后改用自建环境中的 GLM 5.2 开源权重完成后续分析。

披露重点与启示

@krishnan 指出,这份披露重点放在攻击是如何发生的,而不只是回答用户可见资源是否「干净」。@wunderwuzzi23 也认为该事件值得从多个角度重视、但目前关注还不够,@npinto 则强调这一护栏困境对所有依赖商业模型做事件响应的团队都具有借鉴意义。

2026-07-17 ~ 2026-07-19 · 10 条相关

事件全程(共 20 集)→

一手来源

另有 1 条近重复转述:jedisct1