NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库

NVIDIA于8月11日发布Nemotron 3.5 Lightning开源模型与NeMo Switchyard路由库，旨在为边缘到云端的AI智能体提供高效执行层。该模型采用混合Mamba-Transformer MoE架构，总参数30B（实测31.6B），激活参数仅3B（实测3.6B），支持1M上下文，实测输出速度达670 tokens/秒，在智能体编码任务上领先。模型权重已在Hugging Face开源，支持单GPU运行，NVFP4版本登顶趋势榜。NeMo Switchyard可根据请求信号、智能体状态、工具调用结果及模型能力、成本、延迟等维度动态路由，平衡大型前沿模型与高吞吐小型模型。

已确认

• 模型架构与性能：混合Mamba-Transformer MoE，总参30B（实测31.6B），激活3B（实测3.6B），支持1M上下文，NVFP4和BF16精度，实测670 tokens/秒。
• 开源与部署：权重在Hugging Face开源，免费，单GPU可运行，DGX Spark演示，Baseten和Ollama支持，NVFP4版登顶HF趋势榜。
• 路由库：NeMo Switchyard开源，支持多维度动态路由。

为什么重要

该发布瞄准AI智能体执行层痛点，通过超低激活参数MoE降低高频调用成本与延迟，配合Switchyard动态路由，提升复杂任务算力分配效率，推动全天候智能体落地。

2026-08-11 ~ 2026-08-13 · 55 条相关

事件全程(共 8 集)→

• 第 1 集:NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(2026-08-11,55 条)
• 第 2 集:NVIDIA Nemotron 3.5 微调后性能媲美 Claude Opus(2026-08-12,4 条)
• 第 3 集:英伟达推出Switchyard路由器：Agent任务中途换模型降本(2026-08-12,3 条)
• 第 4 集:NVIDIA Nemotron 3.5在科研后训练中表现优异(2026-08-12,2 条)
• 第 5 集:Meta开源30B端侧Agent模型Muse Glimmer(2026-08-12,2 条)
• 第 6 集:Meta 与 NVIDIA 同日发布 30B 开源智能体模型(2026-08-12,3 条)
• 第 7 集:英伟达开源NeMo Switchyard支持智能体动态路由(2026-08-15,2 条)
• 第 8 集:NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard 路由库(2026-08-19,3 条)

• NVIDIA 实操演示：在 DGX Spark 部署智能体模型 Nemotron — NVIDIA Developer · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 模型 — NVIDIAAI · 2026-08-11
• 【源头】NVIDIA 开源 NeMo Switchyard：智能体动态路由分发器 — Sam Witteveen · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning：专为长程智能体设计 — NVIDIA Developer · 2026-08-11
• 英伟达发布 Nemotron 3.5 Lightning，主打极速推理与高性价比 — ArtificialAnlys · 2026-08-11
• Nemotron 3.5 Lightning 实测：670 tokens/秒，主打极速智能体 — ArtificialAnlys · 2026-08-11
• NVIDIA Nemotron 3.5 Lightning 上线 DeepInfra，支持百万 tokens — gharik · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard — nordicinst · 2026-08-11
• 视频：用 NVIDIA SwitchYard 搭建本地大模型路由层 — Prompt Engineering · 2026-08-11
• Nemotron 3.5 Lightning 实测：并发吞吐提升16倍延迟不降 — rhythmrg · 2026-08-11
• 【源头】NVIDIA 开源 Nemotron-3.5-30B 模型，主打 MoE 架构 — coder543 · 2026-08-11
• 【源头】NVIDIA 发布 Nemotron Lightning：专为长周期 Agent 设计的超快 MoE 模型 — Sam Witteveen · 2026-08-11
• NVIDIA Nemotron 3.5 Lightning权重上线Hugging Face — MaziyarPanahi · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 模型，专为智能体提速 — kuchaev · 2026-08-11
• NVIDIA发布Nemotron 3.5 Lightning：专为长程Agent执行优化 — NVIDIAAI · 2026-08-11
• NVIDIA 开源 Nemotron 3.5 Lightning 模型，专为高并发智能体设计 — NVIDIAAI · 2026-08-11
• 英伟达发布开源模型 Nemotron 3.5 Lightning — Polymarket · 2026-08-11
• NVIDIA发布Nemotron 3.5 Lightning：30B LatentMoE，3B激活，支持1M上下文 — huggingface · 2026-08-11
• NVIDIA发布Nemotron 3.5 Lightning：30B参数仅激活3B，专为Agent执行层设计 — heyshrutimishra · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning：支持百万 Token — mervenoyann · 2026-08-11
• 英伟达发布 Nemotron 3.5 Lightning：30B MoE 架构，专为持续运行智能体打造 — ccerrato147 · 2026-08-11
• Nemotron 3.5 参数曝光:3.6B 活跃参数媲美大模型 — thisguyknowsai · 2026-08-11
• 英伟达发布 Nemotron 3.5 Lightning：专为长程智能体设计 — rohanpaul_ai · 2026-08-11
• 实测英伟达 Nemotron 3.5：30B MoE 推理速度超 250 tokens/s — Arindam_1729 · 2026-08-11
• CoreWeave 无服务器推理上线 Nemotron 3.5 Lightning — wandb · 2026-08-12
• Ollama 上线英伟达 Nemotron 3.5 Lightning — ollama · 2026-08-12
• NVIDIA 发布 Nemotron 3.5 Lightning，专为本地智能体设计 — ollama · 2026-08-12
• OpenHands 支持 NVIDIA Nemotron，推动开源组合式编码智能体 — rajistics · 2026-08-12
• NVIDIA Nemotron 3.5 Lightning 30B 模型登顶 Hugging Face 趋势榜 — nvidia · 2026-08-12
• 英伟达发布 30B MoE 模型及智能体路由系统 — sudoraohacker · 2026-08-12
• NVIDIA 开源 Nemotron 智能体编程 RL 数据集 — NVIDIAAI · 2026-08-12
• 英伟达发布开源30B模型Nemotron，主攻智能体推理 — DeryaTR_ · 2026-08-12
• NVIDIA 30B MoE 模型上线 Perplexity Agent API — denisyarats · 2026-08-12

另有 17 条近重复转述:NVIDIA Developer · MaziyarPanahi · nvidia · NVIDIAAI · baseten · baseten · kuchaev · tw_killian · dr_alphalyrae · baseten · ccerrato147 · solyarisoftware · ziqiao_ma · nvidia · willccbb · rohanpaul_ai · ctnzr