PyTorch 新开关在 B200 上实测同一计算提速 4.53 倍
开发者 cfregly 在 NVIDIA B200 上使用 PyTorch 2.14.1(CUDA 13.0)进行编译器微基准测试,发现同一个由 64 个 ATen 算子组成的计算图,只需开启新开关 nestedgraphbreaks=True,稳态下即可获得 4.53 倍提速。他指出这一容易被忽视的配置差异,可能显著影响 B200 上的实际训练与推理性能。
2026-10-26 ~ 2026-10-26 · 2 条相关
- PyTorch 嵌套图断点开关实测:B200 上稳态提速 4.53 倍 — cfregly · 2026-10-26
- B200 实测:torch.compile 关一个开关,同一计算提速 4.53 倍 — cfregly · 2026-10-26