DeepSeek 九个月将每 token KV 缓存体积压缩 54 倍
zephyr_z9 · x · 2026-09-10
据 X 用户 zephyrz9 分享,DeepSeek 在过去 9 个月里把每 token 的 KV 缓存体积压缩了 54 倍,显示出其在推理效率与内存优化上的快速迭代。KV 缓存是长上下文推理内存占用的主要来源,如此幅度的压缩意味着同等硬件可服务更长的上下文或更高并发。
所属事件:DeepSeek 九个月将 KV 缓存压缩 54 倍至亚 KB 水平(6 条相关)→
「Infra」频道最新
- Anthropic S-1 曝基础设施承诺超 6000 亿美元，Google 1145 亿居首 — cedric_chee · 2026-10-26
- Anthropic S-1:每 1 美元收入烧 48 美分算力成本 — nmasc_ · 2026-10-26
- Persistent AI 入驻 UR 网络，隐私推理流量全程加密 — 0xSammy · 2026-10-26
- Anthropic 算力承诺曝光：Google 至少 1145 亿美元居首 — BenBajarin · 2026-10-26
- SpaceX 与 Apollo 达成 400 亿美元 AI 芯片与数据中心硬件租赁协议 — Polymarket · 2026-10-26
- Diamandis 盘点：SpaceX AI 业务年增 830%，Claude 64 小时设计 31.8 万抗毒蛋白 — PeterDiamandis · 2026-10-26