SGLang 推出低延迟模式，GB300 性能提升 1.38 倍

SGLang 联合 NVIDIA 与 AMD 推出低延迟模式（Low-Latency Mode），megakernel 支持已合并，同时发布全新插件系统。在 SemiAnalysis 的 AgentX 轨迹回放测试中，运行 DeepSeek-V4.1-Flash 时 GB300 性能提升 1.38 倍、MI355X 提升 1.56 倍，GB300 单用户吞吐接近 1000 tok/s。

2026-10-20 ~ 2026-10-21 · 3 条相关

• SGLang 推出低延迟模式:GB300 提速 1.38×,MI355X 提速 1.56× — xiaosun86 · 2026-10-20
• SGLang 合并 Megakernel 低延迟模式，GB300 单用户近 1000 tok/s — ying11231 · 2026-10-21

另有 1 条近重复转述:ying11231