Kernel Forge 用 MCTS 优化 CUDA kernel，14 个案例跑赢 PyTorch 基线

omarsar0 · x · 2026-07-29

一篇论文提出了 Kernel Forge：一个开源的 agent harness，可以让未修改的 PyTorch 模型自动生成并优化 CUDA kernel，覆盖 vision、diffusion 和 LLM 工作负载。

要点包括：

不再只是线性的“生成—修复”流程，而是用蒙特卡洛树搜索（MCTS）在多个优化路径间探索。
提供 GUI，用于监控进展、查看候选 kernel、调试失败案例。
在 NVIDIA DGX Spark + GB10 GPU 上，按每个 kernel 50 次优化迭代，它让 14 个 kernel 在四个模型上超过了 PyTorch 基线。
文中给出的收益包括：ResNet-50 的 adaptiveavgpool2d 1.52×、Stable Diffusion 3.5 Medium 的 groupnorm 1.70×、Gemma 4 E2B 的 softmax 2.83×、Qwen 3.5 35B-A3B 的 softmax 1.54×。

「编程与Agent」频道最新