HBF 替代 SSD 做 KV 缓存被指会烧毁寿命
zephyr_z9 · x · 2026-08-19
针对使用高带宽闪存 (HBF) 替代 SSD 进行 KV 缓存卸载的观点，作者指出 HBF 设计初衷并非频繁写入，而 KV Cache 需要大量写入操作，这将导致 HBF 耐用性迅速耗尽。作者认为 Kioxia 的 XL Flash 才是更适合 KV Cache 卸载的产品。
「Infra」频道最新
- Inco AI 推出 DFlash 2，推理提速最高 4.6 倍 — igilitschenski · 2026-08-19
- 未来能否在小显存 GPU 上运行 30B+ 参数的大模型？ — absurdother · 2026-08-19
- Periodic Labs 基于 Miles 框架训练万亿参数模型，吞吐提速3倍 — hsu_byron · 2026-08-19
- 本地 LLM 速度瓶颈解析:4090 与 5090 性能差异 — Viktri1 · 2026-08-19
- LLM 推理工程教程：从 KV Cache 到 vLLM — techNmak · 2026-08-19
- DFlash 2 发布：MacBook 跑 Qwen3.8-27B 速达 70 tok/s — songhan_mit · 2026-08-19