NVIDIA NeMo Speech 登顶开源 ASR:5.33% WER,vLLM 0.32 已可部署

vllm_project · x · 2026-10-28

NVIDIA NeMo Speech 的英文开放权重 ASR 模型在 Open ASR 排行登顶：英文 5.33% WER，多语言在 7 种语言上平均 4.62% WER。架构为音频编码器 + Mamba–Transformer 混合 MoE，含编码器在内仅约 4.3B 激活参数。

部署侧：官方发布 NeMo Speech 的 vLLM 0.32.0 插件，提供 OpenAI 兼容的 chat completions 接口与 MTP 投机解码，并附完整部署指南。技术文档还覆盖了 CTC 词级时间戳对齐（单遍 banded 对齐器、Sortformer 说话人先验权重可配置、说话人辅助词边界细化默认 12 帧上限）等推理细节。