DeepSeek-V4.1-Flash:KV 缓存降至 1/4,解码分离架构获盛赞
bendee983 · x · 2026-09-17
- DeepSeek 发布 V4.1-Flash,被评者称为「AI 工程与研究的杰作」。模型体量约为前代两倍,KV 存储却从每 token 3514 字节降至 890 字节,长 agent 会话持有成本更低。
- 核心亮点是分离式 encoder-decoder 架构:prefill 只用一半层数,decode 用全量层数,把「读」和「写」拆开处理。
- 其他关键数据:输入激活 8B、输出激活 16B 参数;缓存命中价 $0.006/百万 token;评测 40 分(对比 Gemini 41);百万 token 会话全局 KV 控制在 1GB 内(前代约需 3.5GB);不再把本地窗口状态落盘,持久 SSD 缓存降至约 1/8。
- 评价:KV cache 提速与效率优化做得扎实,预计将如以往 DeepSeek 发布一样,为开源架构树立新标杆。
所属事件:DeepSeek V4.1 Flash 架构重置:KV 缓存缩至 1/4(5 条相关)→
「Infra」频道最新
- Tailscale 成众多创业公司单点故障,被巨头收购引发热议 — TheZachMueller · 2026-11-02
- Gary Marcus:多米诺骨牌开始倒下,算力将重演光纤过剩 — GaryMarcus · 2026-11-02
- 单台 H200 跑不动 DeepSeek 4.1 Flash,两台每小时 10.59 美元 — daluoseo · 2026-11-02
- 所有系统知识都将汇入推理与硬件,AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- AWS 被曝算力订满至 2027,专家称「卖光」说法需看语境 — DavidLinthicum · 2026-11-02
- 富士康董事长刘扬伟:AI 不是泡沫,产品需求依然明确 — pstAsiatech · 2026-11-02