如何用 Nsight Compute 定位 GPU kernel 的 bank 冲突

anbarth · x · 2026-11-16

Antje Barth 给出排查共享内存 bank 冲突的可操作方法:用 NVIDIA 官方 profiler Nsight Compute(开启 source counters)对内核或推理引擎做 profiling。

与上一条 vLLM swizzling 讲解同属一个线程,这一条侧重「怎么自己查」,配她此前对 vLLM 量化 MoE 内核的实例分析使用。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →