双机 DGX Spark 实测跑满 DeepSeek v4 Flash
andrewchen · x · 2026-08-02
开发者分享在两台 NVIDIA DGX Spark 上部署 DeepSeek v4 Flash (0731) 的测试结果。使用官方 FP8 权重，单流吞吐量达 82 tok/s（峰值约 95 tok/s），3 个并发会话时可达 135 tok/s。相关部署方案已开源。
所属事件:DeepSeek-V4-Flash 本地部署实测：多硬件跑分与极限量化方案(14 条相关)→
「Infra」频道最新
- AMD 入局开源大模型：发布 Instella-MoE-16B 推理模型 — airesearch12 · 2026-08-03
- 美国多州拟取消数据中心税收优惠，AI算力成本或面临上升 — pstAsiatech · 2026-08-03
- 低显存跑视频模型太慢？开发者探讨 HuggingFace Pro 订阅的性价比 — Smooth-Telephone9443 · 2026-08-03
- AI 离线推理怎么做？开发者热议批量任务的最佳工程实践 — cmm324 · 2026-08-03
- AI 工程师必看：LLM 推理部署与优化 10 周实战路线图 — _jaydeepkarale · 2026-08-03
- 应用开发者应自研端侧模型：将算力下放给用户 — abacaj · 2026-08-03