PyTorch 嵌套图断点开关实测:B200 上稳态提速 4.53 倍
cfregly · x · 2026-10-26
开发者 cfregly 在 NVIDIA B200 上用 PyTorch 2.14.1(CUDA 13.0)实测新开关 nestedgraphbreaks=True,稳态下代码运行快 4.53×,并公开了基准测试脚本、24 次运行数据与图表。
关键发现:
- 稳态加速 4.53×(配合 torch.compile)
- 前 10 次编译调用区间反而比不开该开关慢 33.2%(编译开销)
- 基准代码与分析工具均已开源在 GitHub(ai-performance-engineering 仓库)
结论:适合长稳态推理/训练负载,冷启动编译成本需要权衡。
「编程与Agent」频道最新
- Resin 开源推理运行时:让 AI 自动写前向传播生成定制推理引擎 — andersonbcdefg · 2026-10-26
- Reddit 开发者分享被坑一次后给 Agent 加的硬规则 — Luvena21 · 2026-10-26
- unified-brain 开源:SQLITE 持久记忆层,号称成本降至 1/18 — StatusFoundation5472 · 2026-10-26
- 博主分享多智能体开发栈:按代码量路由 Opus/Fable,Astra 审 PR — sh_reya · 2026-10-26
- App Store Connect CLI 5.17.0 发布:8k star 开源工具一键重排截图 — rudrank · 2026-10-26
- 开发者晒 GPT-6 Astra Ultra 连跑 41 小时,自主开发 Dreamcast 游戏 — AIandDesign · 2026-10-26