NVIDIA 发布 Nemotron 3.5 Lightning：30B MoE 架构，主打高吞吐智能体

baseten · x · 2026-08-12

NVIDIA 发布了全新的开源大语言模型 Nemotron 3.5 Lightning。该模型采用 30B 参数的混合专家架构，实际激活参数仅为 3B，并支持高达 1M 的上下文窗口。

官方表示，该模型专为需要高吞吐量的 AI 智能体工作流设计。通过将大型基础模型蒸馏至更高效的架构，其吞吐量可达同类开源模型的 4 倍。这种速度优势允许智能体进行更多轮次的推理和深度验证，从而在个人助理、网络安全和金融服务等复杂任务中打破传统的速度与精度权衡。目前，该模型已在 Baseten 平台上线供开发者部署。