Datawhale 联手 SGLang 开源推理引擎课程再添两章
ying11231 · x · 2026-09-20
开源课程 zero-to-sglang(SGLang × Datawhale 出品)新增两章:2.1 节通过 mini-sglang 讲清一个推理引擎长什么样;2.2 节拆解一条请求的完整旅程并附代码走读。适合想读推理引擎源码但不知从何入手的开发者,课程托管在 GitHub(datawhalechina/zero-to-sglang)。
「Infra」频道最新
- 回顾游戏引擎与推理引擎：本质都是多用户批处理系统 — yunta_tsai · 2026-09-20
- vLLM 接入 speculative decoding 教程：生成速度可翻倍 — MaiaStudios · 2026-09-20
- Charles Frye:KV 压缩失败罕见但代价高,长上下文场景难跑分 — charles_irl · 2026-09-20
- 千分之一概率乱码：vLLM 两个 Mamba 缓存 bug 的排查实录 — AI Engineer · 2026-09-20
- 分析师称企业多付 10-20 倍云 AI 成本,本地化拐点将至 — DavidLinthicum · 2026-09-20
- 一觉醒来欠 3.6 万美元：Cloudflare 无硬性消费上限的避坑指南 — ThePeterMick · 2026-09-20