Standard Kernel 与 CoreWeave 合作自动优化推理:GLM-5.3 流量提升 63%
anneouyang · x · 2026-10-28
Standard Kernel 与 CoreWeave 合作展示了其自主系统对 LLM 推理的端到端优化,覆盖从引擎配置到自定义 GPU kernel:
- GLM-5.3:承载流量提升最高 63%
- Qwen3.8-27B:单用户吞吐量提升 2 倍
- DeepSeek V4.1 Flash:吞吐量提升 10%
核心思路是让自主系统自动完成引擎调参、kernel 定制等推理栈优化,替代人工调优。
「Infra」频道最新
- 亚马逊谷歌微软一边采购 Anthropic 一边向其出售 2690 亿美元算力 — YvesMulkers · 2026-10-28
- AMD 与 Meta 深化合作,Helios 机架系统进驻支撑超级智能基础设施 — wkmyrhang · 2026-10-28
- 4 块 RTX PRO 6000 跑 DeepSeek:16 并发解码 2120 tok/s — victormustar · 2026-10-28
- 算一道账:2027 年底地球上每人可分 120B 个 DS 级 token — bookwormengr · 2026-10-28
- Google TPU 首次登陆第三方云:OCI 成 Google 之外首个提供 TPU 的超大规模云 — rseroter · 2026-10-28
- Arm 高管访谈:智能体需要专用 CPU,服务器 CPU 市场 2030 年将达 2510 亿美元 — BenBajarin · 2026-10-28