LMSYS 牵头成立 SGLang 联盟,NVIDIA、AMD、Google、Meta 等八家创始成员加入
NVIDIAAI · x · 2026-11-14
LMSYS Org 在首届 SGLang Summit 开幕主题演讲上宣布成立 SGLang 联盟(SGLang Consortium),创始成员包括 NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal 和 RadixArk,将与 SGLang 维护者共同制定路线图、推进开源推理。
- 背景:据 Deloitte,2026 年推理预计占全部 AI 算力约三分之二(2025 年约一半);推理引擎决定这些算力的速度与成本效率。
- SGLang 现状:作为 PyTorch 生态中的全栈推理引擎,已运行在数十万张 GPU 上,支撑 Meta、Microsoft、Google、Amazon、Thinking Machines Lab、Cloudflare、Reflection、Modal 等公司的最大规模生产推理部署。
- 联盟机制:每个创始成员指派一名技术代表,每年参加两次路线图会议,通过工程投入、部署反馈等方式参与,重点方向包括前沿模型支持、推理与多模态负载、分布式推理和硬件优化。
所属事件:LMSYS 成立 SGLang 联盟，八大厂商共同入局(6 条相关)→
「Infra」频道最新
- 从 25% 到 100%：开发者把全部 agent 工作流搬进 Mac Mini 本地跑 — josh_bickett · 2026-11-14
- 英伟达为 AI 客户兜底 5300 亿美元，这笔循环融资的算术能撑住吗 — iamKierraD · 2026-11-14
- RTX 5070 Ti 超频与启动参数对 ComfyUI 出图速度实测:结果意外 — AnalElder · 2026-11-14
- Bernstein 测算：Neocloud 每兆瓦收入约为比特币矿企的 6 倍 — Beth_Kindig · 2026-11-14
- ZONOS3-Mini 发布:MoE 架构 TTS 可在手机和 MacBook 上实时运行 — cocktailpeanut · 2026-11-14
- 「推理元素周期表」梗图:12 种 LLM 推理技术一图看懂 — sophiamyang · 2026-11-14