研究者点评 Together 的 Torch Compile 与 Megakernel 权衡研究

simran_s_arora · x · 2026-11-17

Weili 转发并点评 Together Compute 团队(Simran Arora、Dylan Lim、Reyna Abhyankar)的研究,称其深入考察了 Torch Compile 与 Megakernel 之间的权衡,并由此引出 Together Compile。

评论强调要「两边都研究」,并引用作者关于在 Hazy lab 传统中始终对比两种方案的说法(回溯到 S4 无注意力 vs FlashAttention)。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →