Nemotron 3.5 Lightning 上线 Baseten,吞吐量提升 4 倍成本减半
baseten · x · 2026-08-11
推理平台 Baseten 宣布 Day 0 支持 NVIDIA 最新开源的 Nemotron 3.5 Lightning 模型。该模型专为长周期智能体设计,官方称其为同类开源模型中最快的选择。
与同等规模的开源模型相比,Nemotron 3.5 Lightning 在生产测试中展现出显著优势:吞吐量高出 4 倍,成本降低 50%,且输出 token 数量减少了 63.4%。模型采用 30B MoE 架构(激活参数 3B),并支持 100 万 token 的上下文长度。
所属事件:NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(55 条相关)→
「模型」频道最新
- 传智谱 GLM 5.5 即将发布,编码能力有望追平前沿模型 — bindureddy · 2026-10-16
- 五轮对抗后输出趋同:Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准:18 个模型一致性测试,GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍,微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16
- 阶跃 Step 5 Preview 上线 DeepInfra:600B MoE、1M 上下文,百万 token 输入 $1 — StepFun_ai · 2026-10-16