Nemotron 3.5 Lightning 发布与微调实测

第 1 集 · NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(2026-08-11,55 条)

NVIDIA于8月11日发布Nemotron 3.5 Lightning开源模型与NeMo Switchyard路由库，旨在为边缘到云端的AI智能体提供高效执行层。该模型采用混合Mamba-Transformer MoE架构，总参数30B（实测31.6B），激活参数仅3B（实测3.6B），支持1M上下文，实测输出速度达670 tokens/秒，在智能体编码任务上领先。模型权重已在Hugging Face开源，支持单GPU运行，NVFP4版本登顶趋势榜。NeMo Switchyard可根据请求信号、智能体状态、工具调用结果及模型能力、成本、延迟等维度动态路由，平衡大型前沿模型与高吞吐小型模型。

已确认

• 模型架构与性能：混合Mamba-Transformer MoE，总参30B（实测31.6B），激活3B（实测3.6B），支持1M上下文，NVFP4和BF16精度，实测670 tokens/秒。
• 开源与部署：权重在Hugging Face开源，免费，单GPU可运行，DGX Spark演示，Baseten和Ollama支持，NVFP4版登顶HF趋势榜。
• 路由库：NeMo Switchyard开源，支持多维度动态路由。

为什么重要

该发布瞄准AI智能体执行层痛点，通过超低激活参数MoE降低高频调用成本与延迟，配合Switchyard动态路由，提升复杂任务算力分配效率，推动全天候智能体落地。

• NVIDIA 实操演示：在 DGX Spark 部署智能体模型 Nemotron — NVIDIA Developer · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 模型 — NVIDIAAI · 2026-08-11
• NVIDIA 开源 NeMo Switchyard：智能体动态路由分发器 — Sam Witteveen · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning：专为长程智能体设计 — NVIDIA Developer · 2026-08-11
• NVIDIA 官方解析：用 NeMo Switchyard 实现智能体动态路由 — NVIDIA Developer · 2026-08-11
• 英伟达发布 Nemotron 3.5 Lightning，主打极速推理与高性价比 — ArtificialAnlys · 2026-08-11
• Nemotron 3.5 Lightning 实测：670 tokens/秒，主打极速智能体 — ArtificialAnlys · 2026-08-11
• NVIDIA Nemotron 3.5 Lightning 上线 DeepInfra，支持百万 tokens — gharik · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard — nordicinst · 2026-08-11
• 视频：用 NVIDIA SwitchYard 搭建本地大模型路由层 — Prompt Engineering · 2026-08-11
• Nemotron 3.5 Lightning 实测：并发吞吐提升16倍延迟不降 — rhythmrg · 2026-08-11
• NVIDIA 开源 Nemotron-3.5-30B 模型，主打 MoE 架构 — coder543 · 2026-08-11
• NVIDIA 发布 Nemotron Lightning：专为长周期 Agent 设计的超快 MoE 模型 — Sam Witteveen · 2026-08-11
• NVIDIA 发布开源 30B MoE 模型 Nemotron 3.5 Lightning — MaziyarPanahi · 2026-08-11
• NVIDIA Nemotron 3.5 Lightning权重上线Hugging Face — MaziyarPanahi · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 模型，专为智能体提速 — kuchaev · 2026-08-11
• NVIDIA发布Nemotron 3.5 Lightning：专为长程Agent执行优化 — NVIDIAAI · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard 路由库 — nvidia · 2026-08-11
• NVIDIA 发布 NeMo Switchyard 开源库，实现智能体跨模型动态路由 — NVIDIAAI · 2026-08-11
• NVIDIA 发布 Nemotron 3.5 Lightning：专为智能体设计的 30B MoE 模型 — baseten · 2026-08-11

还有 35 条相关讨论 →

第 2 集 · NVIDIA Nemotron 3.5 微调后性能媲美 Claude Opus(2026-08-12,4 条)

多家机构对 NVIDIA Nemotron 3.5 Lightning 模型进行后训练与深度微调，取得了显著成效。Harvey 与 Trajectory Labs 的合作显示，该模型在法律智能体基准上表现卓越，性能超越 Claude Opus 且 Token 消耗减半。同时，Distil Labs 的实测表明，该微调模型在六项不同任务中均登顶榜首。这表明随着模型训练成本降低，针对性微调正释放出巨大潜力。

• NVIDIA模型经后训练:法律智能体性能超Claude Opus — ctnzr · 2026-08-12
• Nemotron 3.5 后训练实测：法律任务达 Opus 级，Token 消耗减半 — sudoraohacker · 2026-08-12
• Nemotron 3.5 微调后在 Harvey 平台超越 Opus — NVIDIAAI · 2026-08-13
• Distil 实测：Nemotron 3.5 微调后登顶六项任务 — NVIDIAAI · 2026-08-13

第 3 集 · 英伟达推出Switchyard路由器：Agent任务中途换模型降本(2026-08-12,3 条)

针对企业运行常驻AI Agent面临的成本与性能权衡难题，英伟达推出了Switchyard router解决方案，允许在任务执行中途动态切换底层模型。Ramp团队在SWE-Bench上对该阶段路由器进行了编码智能体实测，结果显示，采用该路由库的智能体在性能保持不减的前提下，成本大幅下降59%，耗时减少32%，有效解决了全量依赖昂贵旗舰模型的痛点。

• NVIDIA 路由库实测：编码智能体成本降 59%、耗时减 32% — sudoraohacker · 2026-08-12
• Nvidia推出Switchyard路由器，任务中途换模型降本至1/3 — CackleRooster · 2026-08-12
• NVIDIA路由器实测：编码Agent性能不减，成本与耗时大降 — NVIDIAAI · 2026-08-12

第 4 集 · NVIDIA Nemotron 3.5在科研后训练中表现优异(2026-08-12,2 条)

Lila Sciences 在科学任务平台上对 NVIDIA Nemotron 3.5 Lightning 预览版进行了后训练实践。测试结果显示，在材料科学的强化学习环境中，该开源模型不仅训练容易，还能比以往模型更快地掌握任务。NVIDIA 官方也强调了该模型在科研应用中的出色表现与潜力。

• NVIDIA Nemotron 3.5 Lightning预览版在材料科学RL环境中表现优异 — AllThingsApx · 2026-08-12
• Lila Sciences 采用 Nemotron 3.5 进行科研后训练 — tw_killian · 2026-08-12

第 5 集 · Meta开源30B端侧Agent模型Muse Glimmer(2026-08-12,2 条)

Meta超级智能实验室正式开源了30B参数的多模态模型Muse Glimmer，采用Apache 2.0协议并上线Ollama平台。该模型定位为常驻本地的智能体而非聊天机器人，主打离线场景应用，仅需24G显存即可在本地运行，为开发者提供了强大的端侧Agent解决方案。

• Meta开源30B端侧Agent模型MuseGlimmer，24G显存即可本地跑 — 大模型之路 · 2026-08-12
• Meta 发布 Muse Glimmer：30B 参数本地智能体模型 — ollama · 2026-08-14

第 6 集 · Meta 与 NVIDIA 同日发布 30B 开源智能体模型(2026-08-12,3 条)

Meta 与 NVIDIA 在同日先后发布了参数量同为 30B 的开源智能体模型——Muse Glimmer 与 Nemotron 3.5 Lightning。两款模型均主打强大的工具调用能力与高性价比路由，但在部署路线上存在差异，分别指向了智能体本地化运行与云端路由的对决，为开发者提供了新的开源选择。

• Meta 与 NVIDIA 同日发 30B 模型：Agent 本地化与云端路由的对决 — eyishazyer · 2026-08-12
• NVIDIA 与 Meta 接连推出 30B 级开源 Agent 模型，主打高性价比路由 — HeyAmit_ · 2026-08-12
• NVIDIA 与 Meta 接连发布 30B 开源智能体模型，主打工具调用 — SimplyAnnisa · 2026-08-13

第 7 集 · 英伟达开源NeMo Switchyard支持智能体动态路由(2026-08-15,2 条)

英伟达发布开源库 NeMo Switchyard，专为 AI 智能体工作流设计。该工具支持根据任务复杂度动态路由不同模型，将复杂推理任务分配给前沿模型，而高吞吐量的专用执行任务则使用专用模型。

• 英伟达开源 NeMo Switchyard，支持智能体模型动态路由 — NVIDIAAI · 2026-08-15
• NVIDIA 开源 NeMo Switchyard，智能体可跨模型路由 — NVIDIAAI · 2026-08-15

第 8 集 · NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard 路由库(2026-08-19,3 条)

NVIDIA 扩展 Nemotron 3 家族，推出 300 亿参数混合专家模型 Nemotron 3.5 Lightning，专为高效长期智能体工作流打造。同时开源 NeMo Switchyard 模型路由库，支持按质量、延迟和成本标准，将智能体工作流每一步路由到开源、专有及 NVIDIA 模型池中的最佳模型，摆脱对单一模型的依赖。

• NVIDIA 推出 NeMo Switchyard：智能体多模型路由方案 — NVIDIA Developer · 2026-08-19
• NVIDIA 推出 NeMo Switchyard 实现智能体模型路由 — nvidia · 2026-08-21
• NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard — nvidia · 2026-08-21