Proteus 为 Qwen3 122B 定制 GPU 内核，比 vLLM 最快实现快 5.2 倍
matei_zaharia · x · 2026-09-09
Databricks 发布博客介绍 Proteus——一个为运行时实际遇到的张量形状生成专用 GPU 内核的系统，质疑为何 1B 到 1T 参数的模型要共用同一套通用内核。
关键结果：为 Qwen3 122B 生成的专用内核比 vLLM 中现有最优实现快 1.8–5.2 倍。
真正难点在验证而非生成：
- 团队初始测试框架中，知识与上下文管理（而非候选内核生成）消耗了大部分 token 预算；
- 验证成本高：候选内核须在真实 GPU 上隔离运行，往往不止一次；
- 验证必须严密——内核不仅要快，还须证明结果功能上可信。
这提示 AI 生成代码类工作的瓶颈正在从「生成」转向「可信验证」的工程化。
「Infra」频道最新
- 全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token — tensorqt · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- Together 推出并行 LoRA 实验：多个实验共享同一批 GPU，免重复配置 — togethercompute · 2026-10-27
- 要么人力商品化，要么 GPU 商品化：算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27