实测英伟达 Nemotron 3.5：30B MoE 推理速度超 250 tokens/s
Arindam_1729 · x · 2026-08-11
开发者实测了英伟达最新发布的 Nemotron 3.5 Lightning 模型。该模型为 30B 参数的 MoE 架构（激活参数 3B），专为高频、低延迟的智能体任务设计。
在 Nebius 平台上，其实际推理速度达到了惊人的 250-260 tokens/s。测试者表示，除了速度极快外，该模型的推理表现也十分出色，非常期待将其应用于更多的 Agentic 工作流中。
所属事件:NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(55 条相关)→
「模型」频道最新
- 传智谱 GLM 5.5 即将发布，编码能力有望追平前沿模型 — bindureddy · 2026-10-16
- 五轮对抗后输出趋同：Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准：18 个模型一致性测试，GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍，微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16
- 阶跃 Step 5 Preview 上线 DeepInfra:600B MoE、1M 上下文,百万 token 输入 $1 — StepFun_ai · 2026-10-16