Vera Rubin 首秀横扫 MLPerf,每瓦 agent 吞吐较上代提升超 10 倍
NVIDIA Blog · rss · 2026-11-17
NVIDIA Vera Rubin 平台在 MLPerf 首秀中横扫 Training v6.1 全部项目(唯一提交全部基准的平台),并在首次 MLPerf Endpoints 提交中取得 agent 推理每瓦吞吐 10 倍以上代际提升。要点:
- 训练性能:Vera Rubin NVL72 每 GPU 性能较高度优化的 GB300 NVL72 最高提升 2 倍。
- 规模扩展:DeepSeek-V3 基准上从 256 扩到 1024 GPU 保持约 97% 效率,训练时间从 16 分钟缩到约 4 分钟;NVIDIA 以 GB300 跑到 10,240 GPU(本轮最大规模),Azure 以 GB200 匹配同规模。
- agent 推理:Kimi K3 provisional 结果显示,在同等交互速度(约 50 tokens/s/用户)下,Vera Rubin NVL32 卡每瓦吞吐超 GB300 48 卡 10 倍以上。
- 20 家伙伴组织提交结果;Vera Rubin 在 SemiAnalysis AgentX 与 Artificial Analysis AgentPerf 等第三方基准也领先。
「Infra」频道最新
- MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25% — SumitGup · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22
- llama.cpp Vulkan 修复 PR 让 Inkling 2 Mini 推理提速 2.3-3.2 倍 — pmttyji · 2026-11-22
- 千元级 V100 32G 实测 Qwen 27B 量化:Q4_K_M 生成快 48%,Q8_0 预填快 16% — PuzzleheadedArm3732 · 2026-11-22