vLLM 公布 DeepSeek V4.1 Flash 上 Vera Rubin 首批成绩

vLLM 团队联合 NVIDIA Dynamo,公布了 DeepSeek V4.1 Flash(552B,FP4)在 NVIDIA Vera Rubin NVL72 上的首批推理结果,测试基于 SemiAnalysis 的 AgentX 基准。结果显示整体吞吐最高达 63 倍提升,单芯片吞吐相对 GB300 最高可达 93 倍,且有 AI agent 参与了优化过程。

2026-11-17 ~ 2026-11-17 · 3 条相关

另有 1 条近重复转述:vllm_project