团队放弃自研 Megakernel,Torch Compile 方案达 98% 性能

Dylan Lim 团队反思数月努力后放弃整模型 megakernel 的决定:改用 Torch Compile 默认 Inductor kernel,配合 CUDA Graphs 与细粒度 PDL,即可达到 megakernel 约 98% 的性能。他们总结称 Torch Compile 的通用性与性能此前被低估,简单的组合方案足以逼近专门优化的收益。

2026-11-17 ~ 2026-11-17 · 2 条相关