Artificial Analysis 首测 Vera Rubin NVL72:每兆瓦吞吐最高达 GB300 的 5.7 倍
ArtificialAnlys · x · 2026-10-16
Artificial Analysis 发布 NVIDIA Vera Rubin NVL72 的首批 AA-AgentPerf 评测结果。Vera Rubin 是 Blackwell 的继任者,NVL72 为机架级系统,含 72 块 Rubin GPU 与 36 颗 Vera CPU。
在代理式编码负载下,与上代 GB300 NVL72 相比,Vera Rubin NVL72 的每兆瓦总吞吐提升:
- DeepSeek V4 Pro:约 5.7 倍(190 tok/s/用户)
- DeepSeek V4.1 Flash:约 5.4 倍(580 tok/s/用户)
- GLM-5.2:约 3.0 倍(165 tok/s/用户)
- Kimi K3:约 2.8 倍(67 tok/s/用户),并以 255 tok/s/用户 创下 Kimi K3 排行榜最快纪录
AA-AgentPerf 通过重放真实编码 agent 轨迹来模拟实际负载:每个请求输入最多 132K token、回复仅为简短工具调用,且在每步之间加入真实时长的工具调用等待。文章指出,agent 工作循环中上下文持续增长,流量形态与聊天或固定长度 prompt 的传统推理基准截然不同,因此更难高效服务。完整分析还涵盖了 NVIDIA 所用的服务技术细节。
所属事件:Vera Rubin NVL72 首测:每兆瓦吞吐最高达 GB300 的 5.7 倍(3 条相关)→
「编程与Agent」频道最新
- Burkov 撰文:企业知识碎片化,检索式 AI 难以复原完整流程 — burkov · 2026-10-16
- Marc Lou 用 AI 编出 beehiiv 平替,上线即盈利月费 $19 起 — marclou · 2026-10-16
- 上交发布 SWE-at-Scale:反转真实修复批量合成编码 agent 评测任务 — SJTU · 2026-10-16
- UIUC 发布 JevAgentHarness:小模型替 LLM 做 agent 决策,降本提速 — illinois · 2026-10-16
- 实测跨客户端 MCP 多智能体房间:无推送、OAuth 与权限踩坑全记录 — mcfearsome · 2026-10-16
- 业内预判:AI 编码模型无护城河,数年内将按芯片成本免费提供 — rbhar90 · 2026-10-16