SGLang-Diffusion 扩散模型推理框架发布并将亮相 PyTorch 大会

PyTorch 官方宣布推出 SGLang-Diffusion，一个面向扩散模型的高性能推理服务框架，同时支持大规模离线生成与对延迟敏感的实时推理。RadixArk 的 Yihao Wang 与 Kevin Mi 将在 10 月 20-21 日于圣何塞举行的 PyTorch Conference North America 上介绍该框架，为扩散模型的部署与服务化提供新方案。

2026-10-10 ~ 2026-10-10 · 2 条相关