嵌套图性能测量方法论:看编译产物与 replay 活动,冷热分开测

cfregly · x · 2026-10-22

作者总结本系列的测量要点:检查编译器生成的代码片段与 CUDA replay 活动,并把首次调用的冷启动耗时与重复执行的稳态耗时分开测量——否则容易误读嵌套图这类「稳态大赚、冷启动小亏」的优化。

所属事件:PyTorch 2.14 嵌套图实测:B200 上稳态快 4.5 倍,冷启动多付三成(6 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →