DeepSeek V4.1 Flash 架构解析：552B MoE 读写算力不对称省上下文成本
demian_ai · x · 2026-09-11
Mhr1036 解析 DeepSeek V4.1 Flash 的架构：百万 token 上下文窗口带来「为保留上下文付费」的第二重成本，该模型同时压低计算与内存开销。
架构要点：
- 读写算力不对称：552B 参数 MoE 骨干，每个输入 token 激活 8B 参数、每个输出 token 激活 16B。这种不对称对「先读长文档/代码库/工具结果、再输出短回复」的 agent 场景尤为划算。
- 编码器为解码器供内存：40 层网络拆成 20 层因果编码器 + 20 层解码器，解码器的全局 KV cache 由编码器最终表示构建。
- 注意力内复用：采用压缩稀疏注意力（Compressed Sparse Attention）等机制降低长上下文开销。
所属事件:DeepSeek V4.1 Flash 技术报告流出：死磕 KV cache 压缩(44 条相关)→
「编程与Agent」频道最新
- 微软展示用 Copilot App 与 Foundry 搭建跨 Teams/Outlook 的意图识别 Agent — marlene_zw · 2026-10-26
- 求推荐可穿戴录音麦克风：要长续航，接自己转写和 MCP — altryne · 2026-10-26
- 工程师身份危机蔓延:多智能体系统正在重定义软件工程问题 — rakyll · 2026-10-26
- 零基础学员经 AI 辅导也能跑通完整 CI/CD 流水线 — curious_vii · 2026-10-26
- Ruff 作者感叹:前沿模型能在任何软件里找到无穷多 bug — charliermarsh · 2026-10-26
- 开发者实测同一 skill 跨 Opus 5.5 与 Sol 6.1:指令遵循表现参差 — lucasmeijer · 2026-10-26