Together 团队删掉自建 Megakernel:整模型内核过度复杂,非理想优化目标
simran_s_arora · x · 2026-11-17
Together Compute 团队回顾一年前参与推出首批 AI megakernel 的经历,指出整模型 megakernel 虽是有用的抽象,但会让系统过度复杂,且并不总是理想的优化目标,因此今年将其删除。
文章深入对比了 ML 优化的两种范式:Torch Compile 与 Megakernel,并讲述了团队如何理解并突破这些限制。
所属事件:Together 弃用自家 megakernels,新编译器 B200 再快 28%(7 条相关)→
「Infra」频道最新
- 印度主权 AI 实验室 Sarvam 被批靠中国开源模型做托管生意 — ayushthakur0 · 2026-11-17
- Nvidia 将 Megaspeed 列入禁售名单,此前美方正调查其销售记录 — Polymarket · 2026-11-17
- NVIDIA 开源 cuPotential:分子动力学非键相互作用计算最高提速 3 倍以上 — AllThingsApx · 2026-11-17
- Syzygy 称算力短缺是软件问题:压缩可让 GPU 利用率从 6% 到 90% — teortaxesTex · 2026-11-17
- 网友单卡 B200 复现 4-bit 前向训练:3.3B 模型提速 38%,损失不变 — OtherRaisin3426 · 2026-11-17
- 传黄仁勋考虑创办全新半导体公司,首日或募数百亿美元 — Redo · 2026-11-17