DSV4.1 把全局 KV 压到 890 字节,HBM 需求争论再起
teortaxesTex · x · 2026-09-12
分析师 HiCagr 拆解 DeepSeek V4.1 Flash 的 KV cache 优化后认为 HBM 容量瓶颈将不再是刚需:V4.1 Flash 通过 CSA2(跨层复用全局 KV、FP4 KV 缓存、Top-K 索引)和 SWA Bounded Replay(仅重放最近 nwin 个 token 重建 SWA 状态),把每 token 全局 KV 从约 3.5KB 降到 890 字节,持久 KV cache 占用降为 V4 Flash 的 1/8。
但 teortaxesTex 反驳称 HBM 需求并未消失:V4.1 同样渴望更大显存团队,跑多 agent 时 HBM 消耗会随规模回升——4 个 agent 时 V4.1 的 HBM 消耗/秒就超过 V4,64 个 agent 时超过 V3.2,「Jevons 悖论再次应验」。对于想跑本地集群/多智能体的人,这是关键取舍信息。
所属事件:DeepSeek V4.1 Flash 将 KV 缓存压至 890 字节(2 条相关)→
「Infra」频道最新
- 研究者为 SGLang 写 200+ 条属性约束,找出 10 个推理缺陷 — LingmingZhang · 2026-10-31
- 闭门夜话:AI 时代数据库与队列等经典基建更重要而非更次要 — graceisford · 2026-10-31
- Lux Capital 牵头闭门夜话:Cognition 与 Modal 谈 AI 基建与安全 — graceisford · 2026-10-31
- FastVideo 适配 DGX Spark:aarch64 + CUDA 13 无 wheel 也能装 — victormustar · 2026-10-31
- 客户要 P 核:Intel 把 18A 产能转往 Intel 3 扩产 Granite Rapids — zephyr_z9 · 2026-10-31
- Modal 推出 Sticky Sessions:无服务器容器也能保住会话状态 — graceisford · 2026-10-31