Hugging Face 自建 CDN:每月近 1 EB 流量,每秒 420 GB
Thom_Wolf · x · 2026-11-21
Hugging Face 的 Thom Wolf 披露:今夏起 HF 自建 CDN,每月出货近 1 EB,约每秒 420 GB、每秒 8 万次请求。
自建原因:AI 下载打破了传统 CDN 设计假设——
- 传统 CDN 为「海量小文件分发给海量用户」设计,AI 下载是少数超大文件,且相当比例由机器拉取
- 缓存节点不再是几百个城市里的用户,而是集中在少数云区域里的 GPU 集群
- 一个缓存网页可服务 1000 个访客,而缓存的 1000 GB 模型只服务少数客户,但每个客户都要立即完整拿走
为此 HF 构建了适配超大对象的缓存体系,以应对模型发布时的洪峰。
所属事件:Hugging Face 自建 CDN,每月分发近 1EB 开源模型(3 条相关)→
「Infra」频道最新
- MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25% — SumitGup · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22
- llama.cpp Vulkan 修复 PR 让 Inkling 2 Mini 推理提速 2.3-3.2 倍 — pmttyji · 2026-11-22
- 千元级 V100 32G 实测 Qwen 27B 量化:Q4_K_M 生成快 48%,Q8_0 预填快 16% — PuzzleheadedArm3732 · 2026-11-22