英伟达开源Nemotron模型与Switchyard智能体路由工具
NVIDIA于8月11日发布Nemotron 3.5 Lightning开源模型与NeMo Switchyard路由库。Lightning为30B总参数、3B激活的MoE模型,专为长周期智能体高频执行设计,支持1M上下文,已在Hugging Face开放权重,并可在DGX Spark等平台部署。NeMo Switchyard则根据请求信号、智能体状态、工具调用结果及模型能力、成本、延迟等维度,动态路由至最合适的底层模型。
已确认
- 模型架构:30B总参、3B激活(部分来源称31.6B/3.6B,混合Mamba-Transformer),支持NVFP4和BF16精度,上下文长度达1M,具备MTP、DFlash、DSpark特性。
- 开源内容:模型权重及数据已在Hugging Face开放,完全免费使用,单GPU可运行。
- 部署支持:NVIDIA官方演示在DGX Spark上部署,Baseten平台已上线。
- 路由库:NeMo Switchyard为开源库,支持动态路由,官方提供视频解析。
尚未确认
- 具体性能基准与对比数据(如与gpt-oss-120b的对比)未在材料中给出官方来源。
- 模型是否基于Nemotron 3.0 Nano更新而来,仅kuchaev提及,未获官方确认。
为什么重要
该发布标志着NVIDIA在Agentic AI领域的重要布局,通过高效MoE模型与智能路由库,降低长周期智能体的推理成本与延迟,推动边缘到云端的AI部署。
2026-08-11 ~ 2026-08-11 · 27 条相关
一手来源
- NVIDIA 开源 Nemotron-3.5-30B 模型,主打 MoE 架构 — coder543 ·
- NVIDIA 开源 NeMo Switchyard:智能体动态路由分发器 — Sam Witteveen ·
- NVIDIA 发布 Nemotron 3.5 Lightning 模型 — NVIDIAAI ·
- NVIDIA 实操演示:在 DGX Spark 部署智能体模型 Nemotron — NVIDIA Developer · 2026-08-11
- 【源头】NVIDIA 发布 Nemotron 3.5 Lightning 模型 — NVIDIAAI · 2026-08-11
- 【源头】NVIDIA 开源 NeMo Switchyard:智能体动态路由分发器 — Sam Witteveen · 2026-08-11
- NVIDIA 发布 Nemotron 3.5 Lightning:专为长程智能体设计 — NVIDIA Developer · 2026-08-11
- 英伟达发布 Nemotron 3.5 Lightning,主打极速推理与高性价比 — ArtificialAnlys · 2026-08-11
- Nemotron 3.5 Lightning 实测:670 tokens/秒,主打极速智能体 — ArtificialAnlys · 2026-08-11
- NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard — nordicinst · 2026-08-11
- 视频:用 NVIDIA SwitchYard 搭建本地大模型路由层 — Prompt Engineering · 2026-08-11
- Nemotron 3.5 Lightning 实测:并发吞吐提升16倍延迟不降 — rhythmrg · 2026-08-11
- 【源头】NVIDIA 开源 Nemotron-3.5-30B 模型,主打 MoE 架构 — coder543 · 2026-08-11
- NVIDIA 发布 Nemotron Lightning:专为长周期 Agent 设计的超快 MoE 模型 — Sam Witteveen · 2026-08-11
- NVIDIA Nemotron 3.5 Lightning权重上线Hugging Face — MaziyarPanahi · 2026-08-11
- NVIDIA 发布 Nemotron 3.5 Lightning 模型,专为智能体提速 — kuchaev · 2026-08-11
- NVIDIA发布Nemotron 3.5 Lightning:专为长程Agent执行优化 — NVIDIAAI · 2026-08-11
- NVIDIA 开源 Nemotron 3.5 Lightning 模型,专为高并发智能体设计 — NVIDIAAI · 2026-08-11
- 英伟达发布开源模型 Nemotron 3.5 Lightning — Polymarket · 2026-08-11
- NVIDIA发布Nemotron 3.5 Lightning:30B LatentMoE,3B激活,支持1M上下文 — huggingface · 2026-08-11
- NVIDIA发布Nemotron 3.5 Lightning:30B参数仅激活3B,专为Agent执行层设计 — heyshrutimishra · 2026-08-11
- NVIDIA 发布 Nemotron 3.5 Lightning:支持百万 Token — mervenoyann · 2026-08-11
- 英伟达发布 Nemotron 3.5 Lightning:30B MoE 架构,专为持续运行智能体打造 — ccerrato147 · 2026-08-11
另有 7 条近重复转述:NVIDIA Developer · MaziyarPanahi · nvidia · NVIDIAAI · baseten · kuchaev · tw_killian