Together 复盘 Megakernels:去年造今年删,Torch Inductor 已够用
HazyResearch · x · 2026-11-17
Together 团队(Hazy Research/simransarora)发布博客复盘 Together Compiler 的构建经验,核心结论:
- 经过恰当调优,Torch Inductor 在典型 Megakernel 工作负载上可与手写 Megakernels 性能相当
- 全模型 Megakernels 不是盲目优化的正确目标,算子融合可能有害
- 推理优化的最佳抽象既非单个 kernel 也非一整个 megakernel
文中还总结了 agent 与各种脚手架、编译器中间表示以及预置「专家引导」交互的经验教训。
「Infra」频道最新
- 微软宕机波及航空银行,或为全球网络安全事件早期 — mallow610 · 2026-11-17
- 德州数据中心审批冻结迎来首考:Core Scientific 13亿美元项目待决 — edgarpavlovsky · 2026-11-17
- vLLM 称 Rubin 助吞吐提升 90 倍,分析师算供需全抽象化被批 — bookwormengr · 2026-11-17
- Runway CTO 将登 AI Dev NYC,讲视频基础模型的训练与实时推理 — DeepLearningAI · 2026-11-17
- Michael Burry 做空 Oracle 再中:8 月以来股价跌 17.4% — SumitGup · 2026-11-17
- NVIDIA 发布指南:双 DGX Station 本地部署 GLM-5.3 — vllm_project · 2026-11-17