SGLang Summit 议程:LinkedIn 万级 QPS 广告排序、Vera Rubin 适配

ying11231 · x · 2026-11-10

SGLang Summit 2026 将于 11 月 12-13 日在旧金山 Fort Mason 举行，官网公布两天议程，覆盖前沿基础设施、芯片、模型与应用。

亮点包括：Cloudflare 分享大规模部署经验，LinkedIn 讲解如何用小模型服务广告排序、超 1 万 QPS 且打分延迟低于 80ms；Meta 将 PyTorch 带入 SGLang，阿里扩展 HiCache 支持长时运行 agent；Perplexity 展示为万亿参数模型打造的极简 trainer，Modal 分享用 agent 开发运维 SGLang 推理服务的早期结果；NVIDIA 讲 SGLang 在 Vera Rubin 上的适配优化，Google 分享 SGLang-TorchTPU 的全球生产部署；还有 SGLang Omni 可打断对话、Thinking Machines Lab 与 Meta 的 TorchTitan 训练系统工作等。