NVIDIA 联手 RadixArk,SGLang Rubin 性能 5 天再提升至 10 倍

ying11231 · x · 2026-11-12

SemiAnalysis 旗下 InferenceX 预览数据显示,NVIDIA 与 RadixArk 合作在 5 天内将 SGLang 在 Vera Rubin 上的性能再提升最高 10 倍。基准为 Qwen3.8 Flash Next 176B agentic 场景的每美元总 tokens(TCO)与 P90 端到端延迟:在低延迟区间 (5s 左右) 测得 12.9 倍提升,中段 1.59 倍,高延迟区间 2.49 倍,最新配置开启 KV offload,最高达约 620M tokens/$TCO。表中还给出 VR200 大规模自建成本约 $3.61/芯片/小时(2026 年 7 月定价调查)。数据为官方预览,仍随验证更新。