DeepSeek V4.1 Flash 跑上 Vera Rubin:单芯片吞吐最高达 GB300 的 93 倍
Xianbao_QIAN · x · 2026-11-17
vLLM 官方公布了 DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上的首批成绩,由 Dynamo + vLLM 驱动,基于 SemiAnalysis 的 AgentX 基准测试。
与运行同套推理栈的 GB300 NVL72 相比,按 InferenceX 性能标尺测算:
- 在每用户 400 tok/s 输出速度下,单芯片总 token 吞吐提升 63.4 倍
- 在每用户 600 tok/s 下提升 93.3 倍
这是新一代 Rubin 平台首批公开的大模型推理对比数据,也展示了 vLLM + Dynamo 组合在新硬件上的扩展效果。
所属事件:vLLM 公布 DeepSeek V4.1 Flash 登上 Vera Rubin 首批成绩(5 条相关)→
「Infra」频道最新
- SpaceX 争取 28.35-28.6 GHz 最后 50 MHz 频段,FCC 将于 11 月 19 日投票 — RachelVT42 · 2026-11-17
- Hadrian 投资 3 亿美元升级 1866 年老铸造厂,建美国第 6 工厂 — oyhsu · 2026-11-17
- 流水线并行逆袭:MiniMax-M3.1-Flash 上 PP2 每 GPU 吞吐高 23% — woosuk_k · 2026-11-17
- 哈佛研究:超大规模数据中心已占全美用电量近 2% — Polymarket · 2026-11-17
- 老 GPU 工程师把 Qwen 3.8 27B 在 5090 笔记本跑出 500 tok/s — tebjan · 2026-11-17
- 斯坦福学者:为模型定制芯片可带来数倍效率提升,定制芯片将迎来寒武纪爆发 — agihouse_org · 2026-11-17