vLLM 审核 PR:原生支持 NVIDIA Nemotron-3.5-Transcribe 语音模型
vLLM 项目的一个 PR(#64282)已进入 review 阶段,将为 NVIDIA Nemotron-3.5-Transcribe 语音语言模型提供原生集成。该 PR 新增语音-语言模型架构与原生音频塔,支持 FP8/NVFP4 量化推理,并提供转写与对话两类端点,扩展了 vLLM 在语音方向的能力。
2026-10-28 ~ 2026-10-28 · 2 条相关
- 第 1 集:NVIDIA 开源 Nemotron 3.5 Transcribe,WER 并列开源第一(2026-10-28,9 条)
- 第 2 集:vLLM 审核 PR:原生支持 NVIDIA Nemotron-3.5-Transcribe 语音模型(2026-10-28,2 条)
- Nemotron-3.5-Transcribe 接入 vLLM:原生语音塔+FP8/NVFP4 推理 — aakashgupta · 2026-10-28
- vLLM 原生支持 NVIDIA Nemotron-3.5-Transcribe:转写+对话端点、FP8/NVFP4 — vllm_project · 2026-10-28