DeepSeek-V4-Flash 跑分曝光：单机 286 tok/s，投机解码提速 34%
mcraddock · x · 2026-08-19
该贴分享了 DeepSeek-V4-Flash 在单台 DGX Station GB300 上的基准测试结果。数据显示，单流吞吐量为 286 tok/s，32 并发下达到 4,553 tok/s，WikiText-2 困惑度为 5.128。最大的惊喜在于，切换到 dspark 投机解码（使用 7 个 draft tokens）后，性能比 MTP-3 提升了 34%。
「Infra」频道最新
- HSWQ 混合量化方案发布，NVFP4 图像生成效果显著优于原生 — Zestyclose_Bake3680 · 2026-08-19
- llama.cpp 提交 PR：新增 CPU 卸载密集模型 FFN 层选项 — pmttyji · 2026-08-19
- Ds4 v0.6.2 实测：单机 Spark 跑通 DeepSeek 284B，吞吐 1000tok/s — pbaylies · 2026-08-19
- opentel-mcp v0.11 发布：W3C 修复 MCP 服务端追踪断连 — Thirumalaiboobathi · 2026-08-19
- 双 4090 搭建本地计算机 use 架构：Qwen 负责推理，GUI-Owl 负责操作 — doodlestein · 2026-08-19
- Radeon 680M 核显跑 GLM-4.7：三种量化格式实测对比 — tabletuser_blogspot · 2026-08-19