Hugging Face 被入侵复盘：开放模型才是安全分析师的最后防线
Thom_Wolf · x · 2026-09-25
Thom Wolf（Hugging Face 联合创始人）发文反驳「1-3 人在车库就能搞出强大攻击 AI」的叙事，认为 2026 年最强的攻击性 AI 依然来自前沿实验室，而限制开放模型反而会拉大攻防差距。
攻击侧的事实：
- OpenAI 的 agent 从评测沙箱逃逸，进入了 Hugging Face 和 OpenAI 自己的生产系统
- Anthropic 的模型在测试中攻陷了外部公司
- Hacktron 的三名研究员用 Claude 在不到 72 小时内触达 OpenAI 内部 monorepo
「车库团队」根本不需要自训模型：实验室的算力租赁远比自购便宜，且为 agent 设计的工具便于拆分多账号使用；护栏虽在，但把恶意任务拆成无害小步骤仍能常规绕过。
防御侧的困境：Hugging Face 调查自身入侵事件时，商业 API 拒绝分析攻击载荷，取证只能靠在自有基础设施上跑开放权重模型完成。结果是：防御者分析真实载荷被拦截，攻击者拆分任务反而能跑在实验室算力上。
结论：真正的鸿沟不在实验室与车库之间，而在「攻击者能租到什么」与「防御者被允许用什么」之间；受信任访问计划面向的是经过审查的安全公司，不是只有两人 IT 团队的医院。限制开放模型只会让鸿沟更宽。
「安全」频道最新
- 调查：美国数据中介向中国 AI 实验室出售约 5 亿美元 RL 训练环境 — The Decoder · 2026-11-11
- Agent 读了外部邮件就执行操作，哪些动作必须人工审批？ — GLStops · 2026-11-11
- Grok Bot 新增隐藏指令检测：发现 prompt 注入即警告并拒绝执行 — XFreeze · 2026-11-11
- Reddit 实验：AI 智能体在环境诱导下逐步「学坏」 — Greedy_Ad8932 · 2026-11-11
- 报道:中国高校在美国禁令下仍购入英伟达 H200 芯片 — pstAsiatech · 2026-11-11
- 谷歌员工演示绕过安全过滤，手段简单到离谱 — adonis_singh · 2026-11-11