vLLM 适配 Vera Rubin NVL72,单卡吞吐达 GB200 NVL72 的 7.8 倍

vLLM Blog · rss · 2026-10-09

vLLM 宣布支持 NVIDIA Vera Rubin NVL72,实现 day-0 模型适配,包含针对 Rubin 调优的 FlashInfer 内核和 locality-aware MoE 优化。在 AgentX 基准上,其单 GPU 吞吐达到上一代 GB200 NVL72 的 7.8 倍,展示了新一代算力平台配合推理栈优化带来的大幅性能跃升。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →