NVIDIA Nemotron 3.5 Lightning 上线 DeepInfra，支持百万 tokens
gharik · x · 2026-08-11
DeepInfra 宣布上线 NVIDIA 的 Nemotron 3.5 Lightning 模型。该模型为 30B MoE 架构，激活参数量为 3B，支持高达 100 万 tokens 的上下文。官方称其为同类中最快的开源模型，吞吐量提升最高达 4 倍，特别适合常驻型智能体使用。
定价方面，输入为 $0.05/百万 tokens，输出为 $0.20/百万 tokens，且兼容 OpenAI API。
所属事件:NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(55 条相关)→
「Infra」频道最新
- 黄仁勋：马斯克 AI 算力规模已从 K 级跃升至 M 级 — elonmusk · 2026-10-16
- EpochAI 估 GPT-6 训练算力 4.6e26 FLOP,引算力圈质疑参数高估 — scaling01 · 2026-10-16
- Meta Muse Spark Open 智能指数仅 39，比闭源 1.3 低 9 分 — EAccelerate_42 · 2026-10-16
- LLM 优化 ffmpeg 模糊滤镜:每帧 95GB 冗余拷贝,耗时从 2452ms 降到 49ms — IgorCarron · 2026-10-16
- DeepSeek-V4-Flash 跑上 4 张 R9700:被“拒启”的四卡配置实测可行 — brainchillzZ · 2026-10-16
- TRL 引入树形打包:Agentic RL 训练前反向计算提速超 26 倍 — joecole · 2026-10-16