SGLang 成立产业联盟,NVIDIA、AMD、Google、Meta 等共同加入
xiaosun86 · x · 2026-11-13
在 SGLang Summit 上,lmsys 官方宣布成立 SGLang Consortium(SGLang 产业联盟),创始成员包括 NVIDIA、AMD、Google、Meta、Intel、Cloudflare、Modal 和 radixark,与项目维护者共同规划路线图、推进开源 AI 推理。
- SGLang 目前运行在数十万块 GPU 上,支撑全球最大规模的生产级推理部署之一。
- 联盟将把生产需求转化为共享工程工作:支持前沿模型、改进推理与多模态负载、扩展分布式推理、跨硬件平台优化。
- 官方感谢社区贡献者,称联盟是社区驱动发展的又一个里程碑。
「Infra」频道最新
- 微软宕机原因确认:变更验证致大量服务器失去响应 — Kyrannio · 2026-11-13
- 算力从未免于过剩:转发者称不懂数周期的人是在捐赠 — McDonaghMatthew · 2026-11-13
- AWS 实测 Bedrock 省钱四参数:缓存 TTL、Flex 档、思考力度与 maxTokens — AWS ML Blog · 2026-11-13
- Cloudflare Workers 限流 API 升级:一次调用可消耗多个额度单位 — ritakozlov · 2026-11-13
- RL 圈讽喻热帖:解耦生成与训练并非免费吞吐,staleness 不是舍入误差 — willcb · 2026-11-13
- 开源 WakeGPU:把 Colab 远程 GPU 变成自动待机关停的本地生成工作室 — Far-Ad9512 · 2026-11-13