DeepSeek V4.1 论文藏细节:在 checkpoint 之间复用 KV 缓存,被称「奇怪的模型工厂」

teortaxesTex · x · 2026-09-10

Astra Pro 在深读 DeepSeek V4.1 论文时发现不少有趣细节,其中最引人注意的是 DeepSeek 在不同 checkpoint 之间复用 KV 缓存(KV reuse between checkpoints)。评论者 teortaxesTex 感叹这种做法非常少见,称 DeepSeek 像是在运转一座「非常奇怪的模型工厂」,暗示其训练流程有独特的工程安排。

所属事件:DeepSeek V4.1 被曝回归编解码架构,灵感源自 YoCo(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →