Cloudflare 用数学再省 100TB 内存:哈希环缩容的工程权衡
DanielLockyer · x · 2026-09-19
Cloudflare 发文介绍如何为基于 Pingora 的负载均衡服务再省下 100TB 内存(此前 DNS 团队已省 100TB)。起因是内部服务 Pingora Backend Router 的一致性哈希库 pingora-ketama 内存占用异常偏高。
- 问题根源:一致性哈希环为每台服务器维护大量哈希点,内存开销随规模放大
- 关键权衡:每台服务器最后 9 万个哈希点只换来 0.7% 的负载均衡改善,数学分析表明得不偿失,于是直接砍掉
- 做法:通过收缩一致性哈希环并配合 Rust 优化,全球范围内回收超过 100TB RAM
核心结论是在超大规模基础设施中,微小的收益提升(0.7%)也要与巨大的资源成本对照,该停就停。
所属事件:Cloudflare 缩减一致性哈希环再省 100TB 内存(2 条相关)→
「Infra」频道最新
- Grimes? 不,是 Bezos:呼吁建核动力海上算力平台 — beffjezos · 2026-11-04
- SpecPilot 智能体自动优化投机解码：速度从 4.46× 提升至 10.87× — pmttyji · 2026-11-04
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢：内存+NVMe 缓存摊薄成本，写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04