DeepSeek 发布 V4.1-Flash:KV 压缩至 890 字节/Token,支持百万上下文
deepseek-ai · hf · 2026-09-18
DeepSeek 发布 DeepSeek-V4.1-Flash,一个面向长程 Agent 工作负载的多模态 MoE 模型,骨干 552B 参数,上下文最高 100 万 token,权重已在 Hugging Face 开放。
- 架构:采用 Causal Encoder-Decoder(CED),decode 时每 token 激活 16B 参数、prefill 时仅 8B,显著降低 agent 场景成本
- KV 缓存压缩:CSA2 跨层 KV 复用 + FP4 KV 缓存,全局 KV(常驻 HBM)仅 890 字节/token,约为 DeepSeek-V4-Flash 的 1/4;经 SWA Bounded Replay 部署优化后,SSD/主存持久 KV 降至约 1/8
- 性能:KV 足迹大减的同时表现优于基线;预训练语料 45T token(多模态),在文本与多模态 agent 场景表现强劲
所属事件:DeepSeek 发布 V4.1-Flash,多平台火速上线(5 条相关)→
「Infra」频道最新
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 用一句提示词让 AI 排查跨区流量:迁移服务省掉跨大西洋延迟 — DanielLockyer · 2026-11-04
- SurrealDB 4 发布:多模型数据库瞄准 Agentic 时代 — Scobleizer · 2026-11-04
- 台松新竹多层材料厂凌晨大火爆炸,CCL 供应恐进一步吃紧 — zephyr_z9 · 2026-11-04
- 实测发现同名 Claude 一天走 Bedrock 一天走 Anthropic 直连 — georgos_pappas · 2026-11-04
- 自我改进软件不可避免:让应用读取自身信号并自动修复 — bibryam · 2026-11-04