一条命令起服务：用 transformers serve 跑 NVIDIA Nemotron 3.5 转写模型
yb2698 · x · 2026-10-30
Hugging Face 团队用 transformers serve 复现了 NVIDIA 病毒式传播的说话人字幕 demo。Nemotron 3.5 Transcribe 是 Open ASR Leaderboard 上最强的开源权重模型：30B MoE（激活 4B），支持 40 种语言、最长 1 小时音频，可做说话人归属、翻译与音频理解。
所有能力通过一次对 /v1/audio/transcriptions 端点的调用完成。本地起服务只需一条命令：
transformers serve nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
「Infra」频道最新
- 谷歌高管发问：未来手机是云端智能的瘦客户端，还是更智能的端侧设备？ — edchi · 2026-10-30
- UkisAI压缩推理token:GLM-5.3-Flash省61.4%思考token,精度仅降0.46% — Secure_Recording_472 · 2026-10-30
- tiny-llm 开源课:在 Mac 上手搓 vLLM 式推理引擎,修完性能坑才算毕业 — techNmak · 2026-10-30
- WanGP 一键启动器上线 Pinokio,6GB 显存即可跑 AI 视频生成 — cocktailpeanut · 2026-10-30
- DeepSpeed 修复 ZeRO-2 精度 bug，用户应升级到 0.19.8 以上 — StasBekman · 2026-10-30
- AMD 发布 ROCm HRX Loom v0.1，统一面向 CPU、GPU 与 NPU — Fcking_Chuck · 2026-10-30