SGLang Summit 2026 议程曝光：Meta、Google、NVIDIA 最大化 SGLang 实战
ying11231 · x · 2026-11-11
SGLang Summit 2026 将于 11 月 12-13 日在旧金山 Fort Mason 举行，Meta 研究科学家 Lianmin Zheng 将分享 Meta 如何用 SGLang 在大规模生产环境服务 Muse 等数十亿用户。议程亮点：
- AI in Production：Cloudflare 分享大规模部署经验；LinkedIn 讲解如何以 10K+ QPS、低于 80ms 打分延迟服务广告排序小模型。
- SGLang & Miles：Meta 将 PyTorch 带入 SGLang；Alibaba 扩展 HiCache 支持长时运行 agent。
- Agentic Engineering：Perplexity 展示为万亿参数模型设计的极简 trainer（借助编码 agent 构建）；Modal 分享用 agent 开发与运维 SGLang 推理服务的早期结果。
- 训练与后训练：Thinking Machines Lab 与 Meta 介绍 TorchTitan + Miles；Decagon 用 RL 提升客服 agent 指令遵循并减少幻觉。
- AI 硬件：NVIDIA 讲 SGLang 在 Vera Rubin 上的移植与优化；Google 分享 SGLang-TorchTPU 的全球生产部署。
- 实时 AI 与媒体：SGLang Omni 支持用户可打断的实时对话；HeyGen 分享 GPU 优化降本，MiniMax 介绍影视 AI 工作流。
所属事件:首届 SGLang Summit 11 月旧金山开幕，Meta 英伟达齐聚(3 条相关)→
「Infra」频道最新
- 首届 SGLang Summit 两天汇聚2000+人,一年内从社区小项目到生态核心 — ying11231 · 2026-11-11
- 用 macOS Secure Enclave 保护 SSH 私钥的实操指南 — js2 · 2026-11-11
- Neon 周更上线分支回滚对象存储、AI Gateway 等多项功能 — samgoodwin89 · 2026-11-11
- Musk 确认 Grok 4.8 弃 JAX/SGLang，用 C/C++ 重写全部 RL 与推理栈 — r0ck3t23 · 2026-11-11
- Anthropic 修订招股书:与微软谷歌算力协议超 1700 亿美元,IPO 估值至 1.4 万亿 — rohanpaul_ai · 2026-11-11
- Creon:算法进步终将压过硬件红利,再尝「反向苦涩教训」 — bradneuberg · 2026-11-11