vLLM shares first DeepSeek V4.1 Flash results on NVIDIA Vera Rubin NVL72

vLLM 官方公布了 DeepSeek V4.1 Flash(552B,FP4)在 NVIDIA Vera Rubin NVL72 上的首批推理结果,测试由 NVIDIA Dynamo + vLLM 驱动,基于 SemiAnalysis 的 AgentX 基准。这一数据展示了下一代 NVIDIA 硬件对大模型推理的吞吐提升幅度,受到社区高度关注。

已确认

为什么重要

2026-11-16 ~ 2026-11-17 · 5 related posts

Primary sources

1 near-duplicate retellings: vllm_project