Together 复盘 Compiler 之路:今年我们删掉了自家的 Megakernels
simran_s_arora · x · 2026-11-17
Together 团队成员转发并引用了 Dylan Lim 的长文,回顾 Together Compiler 一年来的演进:去年我们帮忙推出了全球最早一批 AI megakernels,今年我们把它们删掉了。
- 团队认为 whole-model megakernels 虽然作为抽象有帮助、被研究者广泛采用,但实践发现它们过度复杂,并非理想优化目标。
- 文章深入对比两种 ML 优化范式——Torch Compile 与 Megakernels,并分享了他们如何理解并突破这些局限,包括 agentic optimizer 的早期迭代。
这是一篇有分量的一线工程复盘,适合关注推理栈优化与 kernel 编译方向的人。
所属事件:Together 弃用自研 Megakernels,推出 AI agent 调优编译器(10 条相关)→
「Infra」频道最新
- RX 7900 XT 跑起 Unsloth Dynamic v3.1:53 tok/s、192K 上下文 — zxspectrun · 2026-11-17
- Alchemy 实现客户端读己之写:命令回执自动随读请求发送 — samgoodwin89 · 2026-11-17
- Pipeshift 服 Gemma 4 31B 首 token 快 40%,日吞吐 1500 亿 tokens — NirantK · 2026-11-17
- LoopFill 无训练投机解码加速 Looped Transformer 推理 — UIUC-CS · 2026-11-17
- 腾讯 DSpine 推测解码上线:27B 模型提速至 4.5 倍、90-125 tok/s — pmttyji · 2026-11-17
- 直言算力不缺:千卡 GPU 全靠短期合同入手,六成是 B300 — SumitGup · 2026-11-17