Hugging Face 推出 torch.profiler 教程：从看懂 trace 到优化推理

ariG23498 · x · 2026-08-20

Hugging Face 团队发布 Profiling in PyTorch 系列第一篇，面向初学者讲解 torch.profiler 的使用。核心观点是「无法 profile 就无法优化」——无论想提升 LLM 吞吐、压低推理延迟还是排查训练循环变慢，最终都要回到 profiling。文章以问题驱动的方式带你读懂 profiler 表格与 trace（CPU lane、GPU lane 及两者之间的可疑空隙），无需超出基础 PyTorch 的先验知识。后续两篇将覆盖 nn.Linear 到 fused MLP、以及 attention 部分的剖析。首篇已获得 1.6 万次浏览。