Together 自述弃用 Megakernels:Torch Compile 意外强势催生新编译器

togethercompute · x · 2026-11-17

Together AI 发布长文,复盘其推理优化路线的转折:一年前他们是首批向世界介绍 AI megakernels(整模型级融合内核)的团队之一,如今却得出结论——megakernels 作为优化目标过于复杂,并非理想抽象,今年选择「删掉」它们。

文章脉络:

这是一篇有分量的一线工程复盘,对关注推理栈优化的人很有参考价值。

所属事件:Together AI 弃用 megakernels,新编译器在 B200 上再提速 28%(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →