SGLang-Diffusion 扩散模型推理框架将亮相 PyTorch 大会
PyTorch · x · 2026-10-10
PyTorch 官方宣布,RadixArk 的 Yihao Wang 与 Kevin Mi 将在 10 月 20-21 日圣何塞举行的 PyTorch Conference North America 2026 上介绍 SGLang-Diffusion 的设计。这是一个面向扩散模型的高性能服务框架,同时支持大规模离线生成与低延迟实时推理。演讲将覆盖基于 PyTorch 的推理优化细节:请求调度、显存管理、批处理策略与扩散 pipeline 的执行路径优化。链接正文还包含大会注册信息,普通参会者早鸟价 $599、标准价 $799、临门价 $999,学生/学术票统一 $249,10 人以上团队购票享 75 折。
所属事件:SGLang-Diffusion 扩散模型推理框架发布并将亮相 PyTorch 大会(2 条相关)→
「Infra」频道最新
- 27B 4bit 模型 llama.cpp 仅 8-10 t/s,bitsandbytes 反而跑出 27 t/s — cephaloform · 2026-10-10
- 两大 H100 租赁价格指数周相关性仅 0.17,算力期货对冲存疑 — BenBajarin · 2026-10-10
- Chrome 新回声消除器让语音 Agent 词错率减半,不再自问自答 — chadwallacehart · 2026-10-10
- 降价刺激用量:AI 降价会否反而推高算力需求引争论 — dnlkwk · 2026-10-10
- Mike Jordan 团队新论文:用拍卖机制分配 LLM 推理算力 — nhaghtal · 2026-10-10
- 吴恩达:我的一个 agent 一天发起 5000–10000 次网页搜索,数据中心远远不够 — DeepLearningAI · 2026-10-10