SGLang v0.5.18 发布：引擎提速 2.38 倍，支持 AMD NVFP4

BanghuaZ · x · 2026-08-25

SGLang 发布 v0.5.18 版本，汇聚 212 位贡献者的 710 个 PR。主要更新包括：引擎启动速度提升 2.38 倍，通过磁盘流式传输与 CUDA 捕获并行；新增 Muse Glimmer、Intern-S2-Mobius 等模型支持；统一所有编译内核缓存目录；NVFP4 checkpoint 现可通过在线 MXFP4 重量化在 AMD GPU 上运行，DeepSeek-R1 等模型精度保持 97.5%-100%。此外，Kimi K3 在 AMD MI355X 上吞吐量提升 1.37-1.77 倍，DeepSeek-V4 解码速度通过 FlashInfer 优化得到提升。