vLLM 公布 DeepSeek V4.1 Flash 登上 Vera Rubin 首批成绩

vLLM 官方公布了 DeepSeek V4.1 Flash(552B,FP4)在 NVIDIA Vera Rubin NVL72 上的首批推理结果,测试由 NVIDIA Dynamo + vLLM 驱动,基于 SemiAnalysis 的 AgentX 基准。这一数据展示了下一代 NVIDIA 硬件对大模型推理的吞吐提升幅度,受到社区高度关注。

已确认

为什么重要

2026-11-16 ~ 2026-11-17 · 5 条相关

一手来源

另有 1 条近重复转述:vllm_project