CUDA 即时派发的设计代价:流式路径下 QMD 依赖信息更少

mike64_t · x · 2026-10-22

一个关于 CUDA 内核派发内部机制的讨论串:开发者指出,cuLaunchKernel 必须当场派发 QMD(队列元数据描述符),这是即时派发的设计代价。相比之下,批量启动路径下产生的 QMD 携带更少的真实依赖信息;而流式路径则是一次性大量创建同尺寸 QMD,由追踪系统记录哪些正在执行中。发帖人认为这种设计决策一直很奇怪。另有人补充:在 WSL 下批量启动存在额外坑点。

所属事件:NVIDIA 老兵详解 CUDA Graphs 启动开销低于流式派发(5 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →