PyTorch Helion 编译期启发式免调优,反超手写 Triton 内核 18%
PyTorch · x · 2026-11-13
PyTorch 团队为其 kernel DSL「Helion」推出编译期启发式配置选择,无需耗时 autotuning。做法是在编译时读取内核 IR 与数据流,把内核归类为 matmul、reduction 或 pointwise 三类,再按类别直接给出块大小、warps、stages 等配置。
关键数据(H100):
- 此前团队调优一个 paged-attention 内核(72 种 shape)在 quick 模式耗时 10 小时、全力 25 小时——启发式彻底消除这一等待
- 9 种 linear-attention 变体、96 个内核-shape 组合上,前向传播比手写 Triton(Flash Linear Attention)快 18%,含反向快 12%
- 比 vLLM 手写 CUDA reduction 内核快 27%
- 比 Helion 旧的免调优默认快 2.13 倍
意味着「近调优级性能」可以零 GPU 调优时间免费获得。
「Infra」频道最新
- 黄仁勋亲笔签名的 NVIDIA DGX 到货，Meta 工程师晒图 — iaindunning · 2026-11-13
- 微软专利曝光：闲置时让 AI 用你的 GPU 训练并付钱 — markjeffrey · 2026-11-13
- 曝美司法部对英伟达发起反垄断调查 — GaryMarcus · 2026-11-13
- 独家：Alice Huang 旗下公司投资 DeepSeek，承诺供应黑市 Blackwell 芯片 — asusarla · 2026-11-13
- AI 主权争论该降温:买 GPU 放自家地皮不等于真主权 — schwarzjn_ · 2026-11-13
- Berkeley 提出 Population Serving:把推理流量变成免反向传播的训练资源 — LChoshen · 2026-11-13