SGLang Summit 2026 议程亮相:LinkedIn 广告模型 10K QPS、NVIDIA 上 Vera Rubin
DavidBennett__ · x · 2026-11-05
SGLang Summit 2026 将于 11 月 12–13 日在旧金山 Fort Mason Center 举行,预计 2000+ 工程师与研究者参会,ai& 是赞助方之一。已公布的分组议程亮点:
- AI 生产环境:Cloudflare 分享大规模部署经验;LinkedIn 讲解如何以 10K+ QPS、评分延迟 <80ms 服务广告排序小模型
- 引擎与 Miles:Meta 将 PyTorch 引入 SGLang;阿里巴巴扩展 HiCache 支持长时间运行的 agent
- Agentic 工程:Perplexity 展示为万亿参数模型设计的极简 trainer(借助编码 agent 开发);Modal 分享用 agent 开发和运维 SGLang 推理服务的早期结果
- 训练与后训练:Thinking Machines Lab 和 Meta 的 TorchTitan + Miles 工作;Decagon 用 RL 提升客服 agent 的指令遵循并减少幻觉
- 硬件:NVIDIA 讲 SGLang 适配 Vera Rubin 的优化;Google 分享 SGLang-TorchTPU 的全球生产部署
- 实时与媒体:SGLang Omni 支持用户可打断的实时对话;HeyGen 分享 GPU 优化降本;MiniMax 讲影视制作 AI 工作流
「编程与Agent」频道最新
- 微软详解向量搜索与知识图谱之别及 Fabric Graph 定位 — WirelessLife · 2026-11-05
- Databricks 实战:OAuth 自定义 claims 实现多租户 Genie 数据隔离 — Wise_Ear_4064 · 2026-11-05
- 如何让 AI Agent 理解公司内部黑话?四种方案都没有完美答案 — ladybawss · 2026-11-05
- Garry Tan 年烧 20 万美元 token 建 23 技能 Claude Code,实测复杂 harness 反而更差 — echen · 2026-11-05
- 团队实验:子 agent 全换便宜模型,主力 agent 独享最强模型 — cramforce · 2026-11-05
- Mistral Vibe CLI 发布 3.1 版本 — qtnx_ · 2026-11-05