vLLM 适配 Vera Rubin NVL72,单卡吞吐达 GB200 NVL72 的 7.8 倍
vLLM Blog · rss · 2026-10-09
vLLM 宣布支持 NVIDIA Vera Rubin NVL72,实现 day-0 模型适配,包含针对 Rubin 调优的 FlashInfer 内核和 locality-aware MoE 优化。在 AgentX 基准上,其单 GPU 吞吐达到上一代 GB200 NVL72 的 7.8 倍,展示了新一代算力平台配合推理栈优化带来的大幅性能跃升。
「Infra」频道最新
- OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍 — JeremyCMorgan · 2026-10-23
- 黄仁勋拆解 NVIDIA Vera Rubin 智能体系统四大组件 — rohanpaul_ai · 2026-10-23
- Transformers.js 一条龙:ONNX 模型直接跑进浏览器 — JosephJacks_ · 2026-10-23
- MiniMax M3.1 Flash 在 0G 平台限时免费 3 天,1M 上下文随便跑 — MiniMax_AI · 2026-10-23
- 「押注 Cloudflare 拿到十亿级规模」:R2 与 D1 的老兵回忆杀 — dinasaur_404 · 2026-10-23
- 公开数据日渐枯竭,私有数据交易正在变成目录式电商 — SucceededMind · 2026-10-23