开发者追问 NVIDIA:流式 kernel 启动为何比 CUDA graph 开销大

joefioti · x · 2026-10-21

发帖者向 NVIDIA 提问:为什么向流中入队 kernel 启动的开销比 CUDA graph 更大?他认为若 CPU 能跑在 GPU 前面,理论上这一开销本不该存在。该问题引出同批中关于 QMD 构造与流派发机制的详细技术解释。

所属事件:NVIDIA 老兵详解 CUDA Graphs 启动开销低于流式派发(5 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →