NVIDIA Vera Rubin 首秀 MLPerf:单 GPU 训练性能最高达 GB300 两倍
winer666 · reddit · 2026-11-17
NVIDIA 发布 Vera Rubin 平台首批 MLPerf 成绩(MLPerf Training v6.1 与 MLPerf Endpoints v1.0):
- Vera Rubin NVL72 横扫全部七项训练基准,单 GPU 性能较高度优化的 GB300 NVL72 基线最高提升 2 倍。DeepSeek-V3 671B 在 1,024 GPU 上训练仅需 4.14 分钟(GB300 为 8.03 分钟),256→1,024 GPU 扩展效率约 97%
- MLPerf Endpoints 上宣称 agentic 推理(Kimi K3)每瓦吞吐较 GB300 超 10 倍
需要注意的保留意见:10 倍数字尚待 MLCommons 验证,且来自特定配置配对(32 块 Vera Rubin @1,024 并发查询 vs 48 块 GB300 @48 查询);该轮次中 Vera Rubin 的首 token 延迟反而更慢(P90 为 4,673.9 ms vs 2,305.1 ms)。训练横扫是更扎实的部分,也是 Rubin 世代首次准独立基准亮相。
「Infra」频道最新
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22
- llama.cpp Vulkan 修复 PR 让 Inkling 2 Mini 推理提速 2.3-3.2 倍 — pmttyji · 2026-11-22
- 千元级 V100 32G 实测 Qwen 27B 量化:Q4_K_M 生成快 48%,Q8_0 预填快 16% — PuzzleheadedArm3732 · 2026-11-22
- Inference Stack 开源一键部署套件:vLLM+LiteLLM+llm-d+Grafana 全家桶 — AccBalanced · 2026-11-22
- 4GB 显存跑 Krea-2-Turbo:GTX 1650 Super 上 30 秒出图 — A_NASHEX · 2026-11-22