Together AI 弃用 megakernels,新编译器在 B200 上再提速 28%
Together AI 发布长文复盘其推理优化路线的转折:一年前他们曾是首批介绍 AI megakernels(整模型级融合内核)的团队之一,如今决定弃用该方案,原因是 Torch Compile 表现意外强势。团队转而研发 Together Compiler,用 AI agent 针对模型、芯片和流量自动调优推理,在 B200 上可再提速 28%,吞吐最高提升 2.6 倍。
2026-11-17 ~ 2026-11-17 · 2 条相关
- 第 1 集:Together 发布持续编译器 TKCC,Agent 自动调优推理(2026-11-05,28 条)
- 第 2 集:Together 推出智能体持续编译器 TKCC,大幅加速推理(2026-11-05,4 条)
- 第 3 集:Together 发布持续编译编译器,Kimi K3 吞吐最高提升2.7倍(2026-11-10,2 条)
- 第 4 集:Together AI 弃用 megakernels,新编译器在 B200 上再提速 28%(2026-11-17,2 条)
- Together 自曝砍掉 megakernels:AI 编译器在 B200 上再快 28% — togethercompute · 2026-11-17
- Together 自述弃用 Megakernels:Torch Compile 意外强势催生新编译器 — togethercompute · 2026-11-17