DeepSeek 九个月将 KV 缓存压缩 54 倍至亚 KB 水平

据 X 用户 zephyrz9 与 teortaxesTex 等人披露,DeepSeek 在过去约九个月内将每 token 的 KV 缓存体积压缩了 54 倍,最新达到每 token 约 890 字节的亚 KB 水平,引发社区对其推理效率与内存优化能力的广泛关注。

已确认

尚未确认

为什么重要

KV 缓存是长上下文推理内存占用的主要来源,如此幅度的压缩意味着同等硬件可支撑更长上下文与更高并发,直接降低推理成本;0xdoug 的「第三前沿实验室」定位则凸显 DeepSeek 以效率为先的差异化路线。但若以牺牲长文能力或极高基础设施复杂度为代价,其性价比仍需评测数据与部署实践检验。

2026-09-10 ~ 2026-09-11 · 6 条相关

事件全程(共 18 集)→

一手来源