英伟达 Vera Rubin NVL72 首批实测：每兆瓦吞吐最高达 GB300 的 5.7 倍
ArtificialAnlys · x · 2026-10-16
Artificial Analysis 在其 agentic 推理基准 AA-AgentPerf 上公布了 NVIDIA Vera Rubin NVL72 的首批成绩：
- 对比上代 GB300 NVL72，每兆瓦总吞吐在 DeepSeek V4 Pro 上提升约 5.7 倍、DeepSeek V4.1 Flash 约 5.4 倍、GLM-5.2 约 3.0 倍、Kimi K3 约 2.8 倍
- Vera Rubin 是 Blackwell 的继任者，机架系统含 72 颗 Rubin GPU 与 36 颗 Vera CPU；每颗 Rubin GPU 显存与 Blackwell Ultra 相同（288 GB），但显存带宽 2.4 倍、NVLink 带宽 1.7 倍、dense NVFP4 算力 2.3 倍
- 全部成绩由 NVIDIA 提交，使用 TensorRT-LLM 与 vLLM 搭配 NVIDIA Dynamo 运行
- AA-AgentPerf 通过重放真实 agentic 编码会话（含长缓存上下文与工具调用延迟）衡量日常 agent 负载下的推理性能
所属事件:Vera Rubin NVL72 首测：每兆瓦吞吐最高达 GB300 的 5.7 倍(3 条相关)→
「Infra」频道最新
- TRL 复现 Modal 混合精度 RL 训练：GRPO 150 步崩塌，SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- Turing Post 盘点 2026 年 14 款开源 LLM 可观测性工具 — TheTuringPost · 2026-10-16
- 本地 AI 不是隐私功能而是路由问题：任务该跑在笔记本、内网还是云端 — bigdata · 2026-10-16
- 把 Agent 工作从 GPU 挪回 CPU，让动作更持久可预测 — cramforce · 2026-10-16
- 首个 TPUv7 Agent 基准成绩:vLLM 服务下每美元性能超 GB300 NVL72 达 1.42 倍 — vllm_project · 2026-10-16