DeepSeek V4.1 Flash 架构重置,KV缓存缩至四分之一

知乎作者 Excalation 拆解 DeepSeek V4.1 Flash 发现,尽管总参数与激活参数均比上一代更大,工作 KV cache 却降至原来的1/4,持久缓存存储降至1/8,等于主动删掉了自家旧设计。推主 teortaxesTex 评论称,DeepSeek 将注意力中二次方计算的部分不断上移、压缩到更精炼的操作里,不是小修小补,而是接受「苦涩教训」式的科学探索。

2026-09-16 ~ 2026-09-16 · 2 条相关