英伟达、AMD、谷歌等联手成立 SGLang 联盟，Modal 成创始成员

ying11231 · x · 2026-11-13

在 SGLang Summit 上，lmsys 宣布成立 SGLang Consortium：NVIDIA、AMD、Google、Meta、Intel、Cloudflare、Modal 与 Radixark 加入维护者行列，共同规划这一开源推理框架的路线图。SGLang 目前运行在数十万块 GPU 上，支撑着全球最大的一批生产推理部署。联盟将把生产需求转化为共享工程：支持前沿模型、改进推理与多模态负载、扩展分布式推理并跨硬件平台优化。Modal 表示其最繁重的推理负载一直基于 SGLang，服务了数万亿 token，并将把生产经验带入联盟。