Vercel CDN 每秒 8000 万次路由决策，P99 延迟砍掉 91%
cramforce · x · 2026-09-11
Vercel 发布工程博客，详述如何将 CDN 元数据查找的 P99 延迟降低 91%。其 CDN 每秒执行超 8000 万条路由指令，需查找元数据以确定路径如何服务。
优化思路：过去按路径逐个取元数据并缓存，但大部署可达数十万路径，每次新部署都带来缓存未命中。团队改为按组批量抓取元数据，一次填充多个后续查找的缓存；抓太多又有自身成本，最终通过生产环境实验找到平衡点，同时加快了部署速度。文章还提到用排序 JSONL 上的二分查找实现加速，并顺带用了 bloom filter。
「Infra」频道最新
- AI 芯片创企 Positron 融资 8.75 亿美元,估值达 50 亿美元 — Scobleizer · 2026-09-11
- Positron AI 融资 2.3 亿美元估值破十亿，Arm 参投 — seanmcdonaldxyz · 2026-09-11
- 推理提速改变 Agent 工作流:Cerebras 实测并行代理更少、产出不降 — MatthewBerman · 2026-09-11
- Baseten 收购 Blaxel,押注下一代智能体基础设施 — baseten · 2026-09-11
- Skild S1 看一段视频即可上手新任务,年营收已破 1 亿美元 — NVIDIA Blog · 2026-09-11
- 超大规模厂商有能力分解 RSA-1024,单个成本约 3000 万美元 — rickasaurus · 2026-09-11