Nemotron 3.5 Lightning 实测:670 tokens/秒,主打极速智能体
ArtificialAnlys · x · 2026-08-11
据 Artificial Analysis 实测,NVIDIA 新发布的 Nemotron 3.5 Lightning 是一款主打极致效率的开源小模型。它总参数量 31.6B(激活 3.6B),在保持与上代相近体积的同时,实现了智能与速度的双重跃升。
核心数据与亮点:
- 智能大幅提升:在 Artificial Analysis 智能指数中得分 24,较上代(15)提升 9 分,追平了更大参数的 gpt-oss-120b。
- 极致推理速度:在 DeepInfra 的 NVFP4 量化端点上,输出速度高达 670 tokens/秒,远超同级别模型。
- 智能体能力跨越:在 Terminal-Bench v2.1 评测中得分 24%(上代仅 7%),并在 GDPval-AA v2 中超越了自家更大的 Super 版本。
- 开源与可用性:采用 OpenMDW-1.1 许可证,支持免费商用,提供 100 万 token 上下文,现已上线多家推理服务商。
所属事件:NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(55 条相关)→
「模型」频道最新
- Meta 开源 Muse Spark Open:SGLang 一天支持,NVFP4 内核提速近 4 倍 — BanghuaZ · 2026-10-16
- Prompt 里写 load-bearing 可让 Opus 5.5 全力输出不藏拙 — zacharynado · 2026-10-16
- 美国人来中国出差用 Claude 也被封号 — dotey · 2026-10-16
- 逐条核算 Grok Bot 账单:五天烧穿 $20 到 $200,长任务占 52% — jonathanmalkin · 2026-10-16
- NVIDIA 开源 Nemotron-3.5-Embed-1B:图文物页检索、34 种语言的通用嵌入模型 — jacek2023 · 2026-10-16
- EpochAI 估 GPT-6 训练算力 4.6e26 FLOP,引算力圈质疑参数高估 — scaling01 · 2026-10-16