Together AI 弃用 megakernels,新编译器在 B200 上再提速 28%

Together AI 发布长文复盘其推理优化路线的转折:一年前他们曾是首批介绍 AI megakernels(整模型级融合内核)的团队之一,如今决定弃用该方案,原因是 Torch Compile 表现意外强势。团队转而研发 Together Compiler,用 AI agent 针对模型、芯片和流量自动调优推理,在 B200 上可再提速 28%,吞吐最高提升 2.6 倍。

2026-11-17 ~ 2026-11-17 · 2 条相关

事件全程(共 4 集)→