8 个隐形系统设计坑与修法：缓存雪崩、热点分区、重复请求
goyalshaliniuk · x · 2026-11-10
作者指出系统在低负载时运行良好，但流量上涨、缓存过期或单个服务不可用会让延迟飙升、请求失败并在系统内扩散——这些是大规模 System Design 的真正难点，扩容解决不了。帖中列举 8 个隐蔽问题及对策：
- Cache Stampede（缓存雪崩）：热门缓存键过期时大量请求同时打到数据库。解法：请求合并（request coalescing），只让一个请求重建缓存，其余等待。
- Hot Partitions（热点分区）：单个高频访问 key 压垮一个数据库分片。解法：key salting 等手段分散流量，降低集中负载。
- Duplicate Requests（重复请求）：网络重试可能导致同一笔支付被处理多次（帖子在此处被截断，后续问题未完整展示）。
「Infra」频道最新
- HF 今日直播:用 llama.cpp 与 vLLM 给模型量化瘦身 — ben_burtenshaw · 2026-11-10
- 4 台树莓派 5 组网跑 Startlux 4B 9B Instant Q40 量化模型 — bartlomiej__ · 2026-11-10
- 被禁英伟达芯片如何流入中国:偷卡车、假文件、吹风机换贴纸 — Caneki97 · 2026-11-10
- 腾讯选择 Bittensor 子网 Chutes 作为新旗舰模型 Hy4 推理伙伴 — markjeffrey · 2026-11-10
- 3080 Ti 降功耗 42% 跑 Qwen 3.5 9B，速度几乎不掉 — Asthenia5 · 2026-11-10
- PyTorch 推出 CUDA Tile:Python DSL 写 tile 级内核自动吃满 Tensor Core — PyTorch · 2026-11-10