PyTorch 新开关在 B200 上实测同一计算提速 4.53 倍

开发者 cfregly 在 NVIDIA B200 上使用 PyTorch 2.14.1(CUDA 13.0)进行编译器微基准测试,发现同一个由 64 个 ATen 算子组成的计算图,只需开启新开关 nestedgraphbreaks=True,稳态下即可获得 4.53 倍提速。他指出这一容易被忽视的配置差异,可能显著影响 B200 上的实际训练与推理性能。

2026-10-26 ~ 2026-10-26 · 2 条相关