vLLM 审核 PR:原生支持 NVIDIA Nemotron-3.5-Transcribe 语音模型

vLLM 项目的一个 PR(#64282)已进入 review 阶段,将为 NVIDIA Nemotron-3.5-Transcribe 语音语言模型提供原生集成。该 PR 新增语音-语言模型架构与原生音频塔,支持 FP8/NVFP4 量化推理,并提供转写与对话两类端点,扩展了 vLLM 在语音方向的能力。

2026-10-28 ~ 2026-10-28 · 2 条相关

事件全程(共 2 集)→