开启 30 天推理工程挑战：深入 Blackwell 与 CUDA

blelbach · x · 2026-08-26

开发者 Anirudh 发起“30 Days of Inference”挑战，将利用 Blackwell DGX Spark 深入研究推理工程。计划涵盖 Transformer 架构底层原理、Attention 机制与自定义内核实现、CUDA 内核编程（C++ & CuTile DSL）、内核性能分析、Blackwell GPU 硬件细节（Warps, SMs）、推理瓶颈分析（批处理、Roofline 模型）以及自定义 Transformer 开发。内容将基于 Philip Kiely 的《Inference Engineering》书籍和 NVIDIA 官方文档，每日发布笔记与资源。