NVIDIA 在 Hugging Face 开放 Nemotron 全家桶:语言、视觉、语音权重全放送

mervenoyann · x · 2026-10-24

Hugging Face 大 V merve 调侃 NVIDIA 不常看自家 HF 页面,顺带带出了 NVIDIA 在 Hugging Face 的官方组织页更新:作为 NVIDIA 开放模型权重、数据集和交互 demo 的统一入口,覆盖生成式 AI、Physical AI 和智能体工作流。

Nemotron 家族亮点:

Nemotron 3.5 Lightning:高效小模型,30B 总参数 / 3B 激活,采用 Mamba-2 + Transformer 混合 MoE 架构,带 Multi-Token Prediction 层
针对 Agent 长时运行和单卡 H100 / DGX Spark 本地推理优化,1M token 上下文,支持推理 ON/OFF 模式
附带 DSpark、DFlash、MTP 等投机解码 drafter 加速生成,可用 vLLM、SGLang、TRT-LLM、Ollama、llama.cpp 等部署
全线开源权重 + 开放数据集 + 可复现训练配方,覆盖语言、推理、视觉、检索、语音与安全

「Infra」频道最新