vLLM 首日支持 Nemotron 3.5 Super VL 多模态模型

vLLM 官方宣布对 NVIDIA Nemotron 3.5 Super VL 提供 Day-0 支持。该模型总参数 120B、每 token 激活 12B，支持 1M token 上下文，采用混合 Mamba-Transformer MoE 架构并搭配 C-RADIOv4 视觉编码器。vLLM 同时提供 BF16 基线版与 NVFP4 低精度版，NVFP4 版本可在单张 GB200 上运行，使用 vllm/vllm-openai:v0.31.0 镜像即可部署。

2026-10-15 ~ 2026-10-15 · 4 条相关

• vLLM 首日支持 Nemotron 3.5 Super VL：120B 总参、1M 上下文开源多模态模型 — vllm_project · 2026-10-15
• Nemotron 3.5 Super VL 架构:Mamba-Transformer 混合 MoE 加视觉编码器 — vllm_project · 2026-10-15
• vLLM Day-0 支持 Nemotron 3.5 Super VL,BF16 与 NVFP4 双格式 — vllm_project · 2026-10-15
• vLLM 首发支持 Nemotron 3.5 Super VL,单 GB200 跑 NVFP4 — vllm_project · 2026-10-15