SGLang 三年进化史:从缓存技巧到 330+ 组织的推理引擎
FinanceYF5 · x · 2026-11-15
一段回顾 SGLang 发展历程的视频(配乐与画面均由代码生成):从 2024 年 1 月的 RadixAttention 论文起步,到 SGLang v1.0 与 SGLang Consortium 成立,不到三年内经历二十个里程碑。目前 SGLang 已被 330+ 组织使用,首日支持 217 个模型,运行在数十万张 GPU 上。信息来源为 LMSYS 博客、SGLang Summit 2026 时间线与主题演讲材料。
「Infra」频道最新
- 网友手算推测前沿训练算力网格规模已是 10 倍级别 — teortaxesTex · 2026-11-15
- Delip Rao 呼吁全网镜像 Hugging Face,防开源模型库一夜封禁 — deliprao · 2026-11-15
- q-CTRL 获 2.9 亿美元 C 轮融资,成澳大利亚首家量子独角兽 — MJBiercuk · 2026-11-15
- 一个路由器逼停全美航班:FAA 停飞事故查明是路由配置风暴 — emax · 2026-11-15
- a_rohan_ 由 SpaceX 筷子夹火箭畅想太空互联 GPU 训练星座 — _arohan_ · 2026-11-15
- 梁文锋闭门问答旧闻翻红:自研 TileLang 摆脱 CUDA,华为四卡抵一卡 — teortaxesTex · 2026-11-15