Megabake 编译器让 SmolLM 达 torch.compile 5.5 倍速度
ricklamers · x · 2026-10-18
- Megabake 是一个 PyTorch 原生的自动化 mega-kernel 编译器，作者 ayushsatyam146 报告最新进展。
- 作者从 gemma-2b 起步，初始只有 torch.compile 的 0.3x 性能，现已显著超越：SmolLM 135M 获得 5.5x 加速（作者自述难以置信），并使用它作为实验的 oracle 模型。
- 多个模型实测均有明显提速：Qwen 系列、DeepSeek drafter 模型等对比 torch.compile 都取得可观 speedup。
- ricklamers 转发附和 "Just saying"，暗示该结果值得社区关注。
「Infra」频道最新
- 按秒计费的 Modal 估值一周翻三倍,数据中心持有者却没融到钱 — YvesMulkers · 2026-10-18
- Reddit 实测讨论:2-bit/3-bit 量化模型日常到底能不能用 — Queasy_Back2588 · 2026-10-18
- 曝三星台积电联手代工英伟达下一代 HBM 芯片 — Polymarket · 2026-10-18
- Safari 无痕/省电模式被悄悄限 30fps，开发者用 Claude 实测实锤 — oykun · 2026-10-18
- 单张魔改 4090 跑通 318GB 的 DeepSeek V4.1-Flash 量化版,冲到 20+ tok/s — lxfater · 2026-10-18
- 韩券商:长江存储或提前至 12 月上市,IPO 拟募资 330 亿美元 — basedjensen · 2026-10-18