团队放弃自研 Megakernel,Torch Compile 方案达 98% 性能
Dylan Lim 团队反思数月努力后放弃整模型 megakernel 的决定:改用 Torch Compile 默认 Inductor kernel,配合 CUDA Graphs 与细粒度 PDL,即可达到 megakernel 约 98% 的性能。他们总结称 Torch Compile 的通用性与性能此前被低估,简单的组合方案足以逼近专门优化的收益。
2026-11-17 ~ 2026-11-17 · 2 条相关
- Torch Compile 被低估:默认 kernel 加 CUDA Graphs 与 PDL 达 megakernel 98% — simran_s_arora · 2026-11-17
- 团队亲手删掉自研 Megakernel:Torch Compile 加 CUDA Graphs 达其 98% 性能 — simran_s_arora · 2026-11-17