SGLang v0.5.20 发布：Intel XPU 入列，解码最高提速 52%
hsu_byron · x · 2026-09-23
SGLang v0.5.20 正式发布，Intel XPU 首次纳入标准发布。主要更新：
- RL sampling masks 提升 rollout 稳定性，decode 最高快 52%
- 统一 Radix Tree 支持 SWA 分支点缓存，缓存命中率提高约 20 个百分点，TTFT 降至约 1/3
- DSpark 支持 PD + DCP 长上下文服务
- SGLang Simulator 可在 CPU 上做调度与缓存实验
- ROCm 模型加载最快提速 12.5 倍
- SGLang-Diffusion 端到端延迟最高降约 38%
新增模型支持 GLM-5.3-Flash、Qwen3.8-Flash-Next、K2 Horizon、Hy4-Preview、FastH3、VDN-H3 等。
「Infra」频道最新
- 微软 SC26 将揭秘 Maia 加速器:日服务数万亿 token 的数据流设计 — thoefler · 2026-11-12
- ClickHouse 收购 Xata 并发布 Managed Postgres,客户超 5000 家 — CShorten30 · 2026-11-12
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- KubeCon 前夕 Azure Day：AKS 单集群 65 节点跑 2.2 万个 Agent — davemccollough · 2026-11-12
- CoRL 会场同址开天然气论坛,主题直指 AI 数据中心供电 — carlosdponx · 2026-11-12
- a16z 播客：Mike Volpi 从 Cisco 70+ 并购经验谈 AI 基建周期 — a16z · 2026-11-12