SGLang 联手 Datawhale 推出官方推理引擎课程 zero-to-sglang

calabi_and_yau · x · 2026-09-11

SGLang 与开源社区 Datawhale 联合推出官方 AI Infra 课程 zero-to-sglang,现已开课。SGLang 是主流开源大模型高性能推理引擎,可从单卡服务到大规模集群,兼顾低延迟与高吞吐。

课程从读推理引擎源码入手,学员将动手实现一个 mini-SGLang,再深入真实 SGLang 代码库,涉及 attention backend、CUDA Graph、prefill-decode 分离等核心主题,最终目标是帮助学员提交第一个高质量开源 PR。

所属事件:SGLang 联手 Datawhale 推出官方推理课程(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →