SGLang 联手 Datawhale 推出官方推理引擎课程 zero-to-sglang
calabi_and_yau · x · 2026-09-11
SGLang 与开源社区 Datawhale 联合推出官方 AI Infra 课程 zero-to-sglang,现已开课。SGLang 是主流开源大模型高性能推理引擎,可从单卡服务到大规模集群,兼顾低延迟与高吞吐。
课程从读推理引擎源码入手,学员将动手实现一个 mini-SGLang,再深入真实 SGLang 代码库,涉及 attention backend、CUDA Graph、prefill-decode 分离等核心主题,最终目标是帮助学员提交第一个高质量开源 PR。
所属事件:SGLang 联手 Datawhale 推出官方推理课程(2 条相关)→
「编程与Agent」频道最新
- Agent Arena 发布:用数百万真实长程任务为模型排座次 — arena · 2026-09-11
- 开源 MCP 服务器 mcp-ecc:统一管理五大邮件与日历服务商 — karljsamuel · 2026-09-11
- GPT-6 Astra 带火 Codex 用量,开发者连发三个 Obsidian AI 插件 — vista8 · 2026-09-11
- 实测 GPT-6 Astra 过 7 个真实网站注册:仅 2 个成功,花费 $19.68 — JanJanJaJa · 2026-09-11
- AI 生成代码让跨平台复用失效:Shopify Shop 应用 12 周弃 RN 转原生 — rseroter · 2026-09-11
- 开源 ESLint 插件 AI Guard:18 条规则拦截 AI 生成代码的常见坏模式 — Yashhh_21 · 2026-09-11