100k 长上下文输出 630 tokens/s,Nemotron 3.5 Super VL 刷新实测速度纪录
ArtificialAnlys · x · 2026-10-15
Artificial Analysis 在预发布的 DeepInfra 端点(NVFP4 权重)上实测：Nemotron 3.5 Super VL 在 100k token 输入下输出速度约 630 tokens/s,是所有 Intelligence Index 20 分以上已测模型中最快。
- 约为 Inkling Small(124 tokens/s)的 5 倍、Nemotron 3 Ultra(235)的 2.7 倍、Nemotron 3 Super(140)的 4.5 倍
- 首 token 延迟仅 1.8s,对比 Nemotron 3 Ultra 4.4s、Inkling Small 8.5s
对长文档处理的实际可用性是质的提升。
「Infra」频道最新
- SGLang Day-0 支持 FLUX 3 Image Klein：单图 10 参考图，BF16/FP8/NVFP4 多精度 — ying11231 · 2026-10-16
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave：12B 激活参数多模态 MoE，输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 2026 晶圆厂设备支出上调至 1530 亿美元，设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic，网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能：降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API：兼容 Tinker SDK，成本降 25%-85% — kalyan_kpl · 2026-10-16