Morph 用自动研究把模型推理提速 3 倍，但 80% 尝试失败

AI Engineer · youtube · 2026-09-26

AI Engineer 播客邀请 Morph 创始人 Tejas Bhakta（曾在 Tesla 做推理优化）分享其团队用 autoresearch 优化 GPU kernel 的经验，最终让模型在更便宜的 GPU 上快了 3 倍。

核心方法与观点：

GPU kernel 是 autoresearch 的理想目标：正确性和速度都易于自动验证。
分工原则：人类出大想法，agent 负责调参（如 block size 等参数），但 agent 不擅长发现大局级洞察，例如发现 DeepSeek 的 attention 步骤加载了远超所需的上下文。
给 agent 足够上下文：包括硬件信息和模型结构信息。
警惕 reward hacking：如 agent 为了优化单个 kernel 关闭 CUDA graphs，反而拖慢整个模型。
收益叠加：kernel 优化收益可复合叠加，裸机级调优比云 VM 再多约 25% 提升。
诚实的警告：约 80% 的 autoresearch 尝试是无效的。

「编程与Agent」频道最新