DeepSeek V4.1 Flash 把 KV Cache 压到每 token 890 字节
Prompt Engineering · youtube · 2026-09-13
DeepSeek 发布主打长上下文效率的 V4.1 Flash,博主逐层拆解其架构:KV cache 显存被压缩到每 token 仅 890 字节,核心手段包括 CED 分离、CSA2 层共享与 4-bit 量化重放,大幅降低长上下文的内存与算力开销。
视频重点:
- 为什么 KV cache 是长上下文成本的最大瓶颈
- Prefill 与 Decode 两阶段的计算差异
- 架构改动如何支撑长时运行 agent 与超大代码库场景
- Benchmark 对比:效率亮眼,但能力仍落后前沿系统
所属事件:DeepSeek V4.1-Flash 发布：KV cache 压至每 token 890 字节(6 条相关)→
「Infra」频道最新
- AI 烧钱加深自由现金流缺口，微软靠发债 250 亿美元守住正值 — Kr00ney · 2026-10-31
- Google 太空数据中心首次跑通:轨道 TPU 完成 Gemma 推理并回传 — ns123abc · 2026-10-31
- Google Cloud 花费上限正式上线：新增 API、实时成本报告与每月自动重置 — rseroter · 2026-10-31
- Swift 1.5 Flash Next 去审查逆向版新增多种量化，IQ4 精度换体积 — jjusko20 · 2026-10-31
- ClickHouse 曝未认证远程代码执行漏洞 CVE-2026-116366 — Hacubu · 2026-10-31
- 批量合并提问只读一遍文档,可大幅降 LLM 分类成本与延迟 — petrusenko_max · 2026-10-31