DeepSeek V4 Pro 0813推理工程实践：1.7T参数MIT协议开源
philipkiely · x · 2026-08-14
本文详细介绍了针对 DeepSeek V4 Pro 0813 模型的推理工程优化工作。
模型与工具发布
- DeepSeek V4 Pro 0813 于今日开源，参数量达 1.7T，采用 MIT 协议，企业可无限制运行和微调。
- 同步开源了全新的编码测试工具（coding harness），采用插件优先架构。
- 该模型在 Artificial Analysis 的综合智能指数上与 GLM-5.2 质量相当，但单任务成本更低。
推理与部署
- 模型已在 Baseten 平台上提供 API 服务，默认开启零数据留存。
- 文章总结了团队为了让该超大模型实现高效推理所做的底层工程优化。
「Infra」频道最新
- AI算力供需错配严重，头部厂商应推实时动态定价API — tszzl · 2026-08-14
- Anthropic 500亿美元算力融资拆解：资金暂非AI扩张瓶颈 — SamuelAlbanie · 2026-08-14
- NVIDIA 驱动更新暗开 ECC，致消费级 GPU 损失 1.5GB 显存 — MastMaithun · 2026-08-14
- 阿里开源MNN推理引擎：赋能端侧大模型 — tom_doerr · 2026-08-14
- AMD 赠送 Ryzen AI Halo 专为 LLM 优化 — JosephJacks_ · 2026-08-14
- 面向 LLM 工程师的 GPU 底层工作原理深度解析 — burny_tech · 2026-08-14