DeepSeek-V4-Flash 跑分曝光：单机 286 tok/s，投机解码提速 34%
mcraddock · x · 2026-08-19
该贴分享了 DeepSeek-V4-Flash 在单台 DGX Station GB300 上的基准测试结果。数据显示，单流吞吐量为 286 tok/s，32 并发下达到 4,553 tok/s，WikiText-2 困惑度为 5.128。最大的惊喜在于，切换到 dspark 投机解码（使用 7 个 draft tokens）后，性能比 MTP-3 提升了 34%。
所属事件:DeepSeek-V4-Flash 跑分曝光，单机吞吐最高 4550 tok/s(2 条相关)→
「Infra」频道最新
- FT 称 AI 算力债券面临「达尔文时刻」，CoreWeave 债价暴跌 — firstadopter · 2026-10-16
- 手机当界面、家里服务器跑模型:一套本地 AI 双工作流 — EAccelerate_42 · 2026-10-16
- 「数据中心就是银行」:CoreWeave 风波引出算力监管类比 — arthurcolle · 2026-10-16
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16