NVFP4 DeepSeek 4×DGX Spark 实测:单用户较 vLLM 快 2.3×
AIFlow_ML · x · 2026-11-03
Local AI Daily 汇总 11 月 3 日本地 AI 实测动态。核心是第三方复现 NVIDIA 的 NVFP4 DeepSeek-V4.1-Flash 在 4× DGX Spark 上的表现：同一硬件同一 checkpoint 下对比 TensorFold 与 vLLM TP4 配方（实测数据、原始输出公开）。
- 解码（代码）：71.0 vs 33.6 tok/s
- 单用户总吞吐 62.1 vs 27.6 tok/s，8 用户 144.6 vs 114.8 tok/s
- 8K 提示首 token 均为 2.2 s
- 加速比随负载下降：单用户 2.3×，8 用户仅 1.3×
另有 Mac vs Spark 负载对比，按 Bangkok 时间窗口整理，并区分 MEASURED / VENDOR-CLAIM / ESTIMATE 标签与许可证标注。
「Infra」频道最新
- Claude Code 缓存按模型隔离:换模型、压缩、闲置都会打穿缓存 — shoumikgoswami · 2026-11-03
- 研究者在推进太空分布式训练，太空数据中心话题持续升温 — MillionInt · 2026-11-03
- 马斯克算账：太空散热铝板每平米可达 1300 瓦，太空数据中心可行 — elonmusk · 2026-11-03
- Gap 用 Mac mini 集群跑防损 AI,登上苹果 Q4 财报电话会 — akumar · 2026-11-03
- 单张 GPU 时薪已超美国最低工资,算力是否被严重低估定价 — blelbach · 2026-11-03
- 硅谷投资人:推理工程是当下最赚钱、杠杆最高的专精技能 — AccBalanced · 2026-11-03