DeepSeek 九个月将 KV 缓存压缩 54 倍至亚 KB 水平
据 X 用户 zephyrz9 与 teortaxesTex 等人披露,DeepSeek 在过去约九个月内将每 token 的 KV 缓存体积压缩了 54 倍,最新达到每 token 约 890 字节的亚 KB 水平,引发社区对其推理效率与内存优化能力的广泛关注。
已确认
- zephyrz9 称 DeepSeek 九个月内实现每 token KV 缓存体积 54 倍压缩,体现出推理效率与内存优化的快速迭代。
- teortaxesTex 给出具体数字:新模型每 token 仅约 890 字节,压缩率异常之低。
- kalomaze 确认单 token 的 KV 存储成本已被压到 1KB 以下,延续 DeepSeek 一贯的效率路线;但他也指出,极致压缩对应的训练与服务基础设施「最折磨人」,成本与工程难度极高。
- teortaxesTex 认为 DeepSeek 一项架构层面的稀疏化改动意义重大,将显著提升 token 效率,走向 OpenAI 式的效率区间,摆脱「胖鲸鱼吃白米饭」式的巨量参数激活浪费。
- 投资人 0xdoug 评论称 DeepSeek 绝对是继 OpenAI 和 Anthropic 之后的第三家前沿实验室,但路线不同:OpenAI 和 Anthropic 专注在可接受的成本下推进智能前沿,DeepSeek 则专注在可接受的智能水平下压低成本。
尚未确认
- teortaxesTex 关于新版发布内容带有「ChatGPT 风格痕迹」的说法属个人解读,未经证实。
- 极致 KV 压缩下的长上下文能力是否可靠,teortaxesTex 明确表示期待长上下文评测成绩予以验证,目前尚无结果。
为什么重要
KV 缓存是长上下文推理内存占用的主要来源,如此幅度的压缩意味着同等硬件可支撑更长上下文与更高并发,直接降低推理成本;0xdoug 的「第三前沿实验室」定位则凸显 DeepSeek 以效率为先的差异化路线。但若以牺牲长文能力或极高基础设施复杂度为代价,其性价比仍需评测数据与部署实践检验。
2026-09-10 ~ 2026-09-11 · 6 条相关
- 第 1 集:DeepSeek V4.1 Flash 限时内测:新架构原生多模态(2026-09-08,18 条)
- 第 2 集:DeepSeek V4.1 Flash实测:极速350 tokens/s但偏实验性(2026-09-08,2 条)
- 第 3 集:DeepSeek V4-Flash 降价并改峰谷计费,9 月 10 日生效(2026-09-08,6 条)
- 第 4 集:DeepSeek V4.1 Flash 多方实测:近前沿性能,成本仅 1.4%~3.5%(2026-09-09,15 条)
- 第 5 集:DeepSeek 开源发布 V4.1 Flash,超旗舰低价引热议(2026-09-09,57 条)
- 第 6 集:DeepSeek V4.1/Flash 爆料:552B 非对称架构对标 GPT-5.6 Sol(2026-09-10,21 条)
- 第 7 集:DeepSeek V4.1 Flash 评测跑分流出,社区热议实测表现(2026-09-10,2 条)
- 第 8 集:DeepSeek 九个月将 KV 缓存压缩 54 倍至亚 KB 水平(2026-09-10,6 条)
- 第 9 集:传 DeepSeek 新模型成开源之王:碾压 GLM、Kimi 且便宜 4-10 倍(2026-09-10,3 条)
- 第 10 集:Bug Hunt Bench 发布:105 个真实 bug 横评前沿模型(2026-09-10,13 条)
- 第 11 集:DeepSeek V4.1 Flash 确认以 YOCO 架构为核心(2026-09-10,7 条)
- 第 12 集:DeepSeek V4.1 Flash 技术报告流出:死磕 KV cache 压缩(2026-09-11,44 条)
- 第 13 集:DeepSeek V4.1 Flash 登顶 Vals 开源榜,成本仅 0.3 美元(2026-09-11,2 条)
- 第 14 集:DeepSeek 发布 V4.1-Flash:552B 骨干、百万上下文(2026-09-11,5 条)
- 第 15 集:DeepSeek V4.1 Flash 评测得 40 分,幻觉率上升仍领先开源(2026-09-11,2 条)
- 第 16 集:DeepSeek CED 与 GLM 的 KV 缓存复用机制解析(2026-09-11,4 条)
- 第 17 集:DeepSeek 4.1 Flash 实测:缓存降价 7 倍,内核大升级(2026-09-11,2 条)
- 第 18 集:SGLang 24 小时适配 DeepSeek V4.1 Flash 达 873 tok/s(2026-09-12,2 条)
一手来源
- DeepSeek 九个月将每 token KV 缓存体积压缩 54 倍 — zephyr_z9 ·
- DeepSeek 每 token 仅 890 字节,长上下文评测受期待 — teortaxesTex ·
- kalomaze:DeepSeek 把单 token KV 压进亚 KB 存储,训练服务却极痛苦 — kalomaze ·
- 【源头】DeepSeek 九个月将每 token KV 缓存体积压缩 54 倍 — zephyr_z9 · 2026-09-10
- DeepSeek 稀疏化新动向:token 效率看齐 OpenAI,告别「胖鲸吃白饭」 — teortaxesTex · 2026-09-10
- 网友解读 DeepSeek 新版含 ChatGPT 痕迹,token 效率将大幅提升 — teortaxesTex · 2026-09-10
- 【源头】DeepSeek 每 token 仅 890 字节,长上下文评测受期待 — teortaxesTex · 2026-09-10
- 【源头】kalomaze:DeepSeek 把单 token KV 压进亚 KB 存储,训练服务却极痛苦 — kalomaze · 2026-09-11
- KV缓存9个月压缩54倍,DeepSeek被称第三前沿实验室 — max_paperclips · 2026-09-11