SGLang Summit 2026 议程亮相：LinkedIn 广告推理 QPS 超 1 万
DavidBennett__ · x · 2026-11-05
SGLang Summit 2026 将于 11 月 12–13 日在旧金山 Fort Mason Center 举行，主打开放 AI 基础栈，预计 2000+ 工程师与研究者参与。亮点议程包括：LinkedIn 分享如何用 SGLang 服务广告排序小模型、实现 1 万+ QPS 且打分延迟低于 80ms；Meta 将 PyTorch 引入 SGLang，阿里扩展 HiCache 支持长时 Agent；Perplexity 展示万亿参数模型极简训练器；NVIDIA 讲解 SGLang 适配 Vera Rubin，Google 分享 SGLang-TorchTPU 全球生产部署；还有 SGLang Omni 可打断式实时对话等。
所属事件:SGLang Summit 2026 将于 11 月旧金山开幕(4 条相关)→
「Infra」频道最新
- FineWeb-30M 训练提速至 14.2 秒，单节点 8xH100 再破纪录 — RobertTLange · 2026-11-05
- 图数据库新玩法:状态存 S3、查询节点随起随弃,HydraDB 获 13k 星 — JeremyCMorgan · 2026-11-05
- FT:微软否决与英国 Nscale 的数十亿美元 AI 交易 — nordicinst · 2026-11-05
- 微软发力端侧编码 AI:128GB 统一内存 RTX Spark PC 免 token 费跑编码模型 — lee_stott · 2026-11-05
- 64GB 内存能跑什么？Reddit 用户求解 Qwen 3.8 27B 之后的本地模型选择 — xdcfret1 · 2026-11-05
- 百度开源 ERNIE 5.5 Flash Base：280B MoE 仅激活 14B，支持百万上下文 — Baidu_Inc · 2026-11-05