NVIDIA Nemotron 3.5 Lightning 上线 DeepInfra，支持百万 tokens
gharik · x · 2026-08-11
DeepInfra 宣布上线 NVIDIA 的 Nemotron 3.5 Lightning 模型。该模型为 30B MoE 架构，激活参数量为 3B，支持高达 100 万 tokens 的上下文。官方称其为同类中最快的开源模型，吞吐量提升最高达 4 倍，特别适合常驻型智能体使用。
定价方面，输入为 $0.05/百万 tokens，输出为 $0.20/百万 tokens，且兼容 OpenAI API。
「Infra」频道最新
- Unsloth 发布桌面端应用：支持本地训练与运行各类大模型 — danielhanchen · 2026-08-11
- 科技巨头下半年资本支出激增，季度账单预计超百亿 — Beth_Kindig · 2026-08-11
- 黄仁勋借5000亿融资扶持新云，挑战三大云巨头 — firstadopter · 2026-08-11
- NVIDIA 发布 Nemotron 3.5 Lightning 与 NeMo Switchyard 路由库 — nvidia · 2026-08-11
- 远景拟在蒙古建高密度数据中心，规划算力达百万加速器 — Beth_Kindig · 2026-08-11
- 混合双轨架构：让CPU接管LLM的精确计算任务 — Icy_Chicken_7533 · 2026-08-11