嵌套图性能测量方法论:看编译产物与 replay 活动,冷热分开测
cfregly · x · 2026-10-22
作者总结本系列的测量要点:检查编译器生成的代码片段与 CUDA replay 活动,并把首次调用的冷启动耗时与重复执行的稳态耗时分开测量——否则容易误读嵌套图这类「稳态大赚、冷启动小亏」的优化。
所属事件:PyTorch 2.14 嵌套图实测:B200 上稳态快 4.5 倍,冷启动多付三成(6 条相关)→
「Infra」频道最新
- 开源模型 token 占比超两成,长文推演其对半导体营收的真实冲击 — dotey · 2026-10-22
- 曝三星西安厂转产 286 层 NAND,SK 海力士大连厂拟升 240 层 — rohanpaul_ai · 2026-10-22
- SGLang 联手 Google 与 Meta 发布 TorchTPU 插件,已在 Meta 生产推理落地 — BanghuaZ · 2026-10-22
- 爆料:单个顶级 RL 环境任务的市场价格已飙至离谱水平 — jia_seed · 2026-10-22
- 华为 Atlas 950 系列加速卡情报曝光,玩家实测 300I Duo 跑 GLM 与 Muse — matteiuspi · 2026-10-22
- Cloudflare 工程师称已开始恢复构建,明日发布完整事故复盘 — edgarpavlovsky · 2026-10-22