DeepSeek V4.1 Flash 跑 1M 上下文内存不到 0.9GB，Llama 70B 需 320GB
gnukeith · x · 2026-10-29
开发者 gnukeith 指出 DeepSeek V4.1 Flash 在工程上被严重低估：同样跑 1M token 上下文窗口，Llama 3.3 70B 约需 320GB 内存，Qwen 3 8B 约需 144GB，而 DeepSeek V4.1 Flash 不到 0.9GB——差距达数百倍，说明其 KV Cache 压缩已做到极致，长上下文推理的内存门槛被大幅拉低。
所属事件:开发者盛赞 DeepSeek 工程效率：KV Cache 三年缩小 437 倍(3 条相关)→
「模型」频道最新
- 传 Anthropic 内部已有超越 Mythos 5.1 且对齐更好的模型 — VraserX · 2026-10-29
- 「在测试集上训练」之争：ML 工程师称垂直 AI 的超能力恰在于此 — HanchungLee · 2026-10-29
- OpenRouter 日处理 5.2T token,大 V 追问 GPU 到底去了哪 — teortaxesTex · 2026-10-29
- 马斯克转发开发者 AI 名场面清单，力挺 Grok Bot 产品体验 — elonmusk · 2026-10-29
- 复盘 OSS Summer 2023：只有 Llama 成功，MPT/Falcon/StarCoder 无后续 — HanchungLee · 2026-10-29
- Bindu Reddy 爆料：中国模型转向从 OpenAI Astra 蒸馏 — bindureddy · 2026-10-29