NVIDIA 发布 Nemotron 3.5 Lightning：专为智能体设计的 30B MoE 模型

baseten · x · 2026-08-11

NVIDIA 最新发布了 Nemotron 3.5 Lightning 模型，现已在 Baseten 平台上线。该模型专为长时间运行的智能体工作流设计，采用 30B 参数的 MoE 架构（激活参数仅 3B），支持 100 万 token 上下文，并从更大型的 Nemotron 3 Ultra 蒸馏而来。

官方及实测数据显示，相比同级别的开源模型，该模型在吞吐量上提升了 4 倍，成本降低 50%，且在生产测试中减少了 63.4% 的输出 token。此外，CodeRabbit 团队使用 Baseten Training 对该模型进行了微调，使其路由准确率达到 80.4%，比基准线提升了 4.6%。