Meta 披露 SGLang 承载数十亿应用用户推理，横跨四类芯片

BanghuaZ · x · 2026-11-14

SGLang 核心成员 Banghua Zhang 转发 Meta 演讲照片：SGLang 已在 Meta 生产环境中服务 Muse 应用与 Meta 全家桶（Instagram、Facebook、WhatsApp、Messenger）的数十亿用户，覆盖 Muse App、Muse Code、Model API 与图像视频等场景，通过多集群路由统一调度，底层同时支持 NVIDIA GPU、AMD GPU、Google TPU 和 Meta 自研 MTIA 加速器。这是开源推理框架 SGLang 在超大规模生产部署上的标志性案例。