Hyperbolic 创始人 SGLang Summit 演讲:算力优化之外还要盘活闲置 GPU
BanghuaZ · x · 2026-11-17
首届 SGLang Summit(2026 年 11 月 12-13 日,旧金山 Fort Mason)上,Hyperbolic 创始人 Jasper Zhang 团队成员发表演讲,提出推理优化的「另一半问题」:
- SGLang 社区在让每块 GPU 更高效(更好的 kernel、更聪明的缓存)上做了大量工作
- 但被闲置的 GPU 再优化也产出零 token:一个数据中心算力闲置时,另一个地方的团队却在等数周的 GPU 配额
- 软件提升每 GPU 小时的生产力,算力网格则保证这些 GPU 小时被用起来
由此引出 Hyperbolic 的使命:让全球算力统一、有生产力、可流动。演讲嘉宾包括 Banghua Zhu 等。
「Infra」频道最新
- Quail 支持 GDN 混合架构模型,较 vLLM 提速 3.2 倍 — sh_reya · 2026-11-17
- 研究者发现两条未公开 x86 指令,可从用户态直写 CPU 微码 — sull · 2026-11-17
- Inkling-2-Small 评测:单节点每小时完成 911 个企业任务,成本比 DeepSeek 低 43% — ryanshrout · 2026-11-17
- Blackstone 数据中心 SPV 融资遇冷:目标 8 亿仅募到 3 亿 — edgarpavlovsky · 2026-11-17
- 微软故障一线复盘:4 个月前的隐藏 bug 被激活,纯人工代码、AI 协助排查 — sebkrier · 2026-11-17
- 数商生意内幕:单道题报价 2k-5k 元到 2k 美元,一批订单按百万计 — teortaxesTex · 2026-11-17