图解 GPU 线程调度:从 kernel 启动到硬件执行的完整链路
blaizedsouza · x · 2026-11-22
Avi Chawla 发布一篇清晰的 GPU 工作机制讲解(AI 工程面试高频题),配图覆盖从程序发起 kernel 到硬件执行指令的全过程:
- kernel 启动:一次 kernel launch 可创建数百万线程,但不会同时全部运行;每个线程持索引,按同样指令(读两个数、相加、存结果)处理各自数据。
- 线程分块:程序将线程组织为 block,GPU 把线程组分配到芯片可用区段;在每个区段内,调度器从就绪线程中取指令推进,而非管理单个线程。
- 引用文中还提及后续文章:解释 LLM decode 为何受限于内存带宽,以及比 GPU 快 4 倍的数据流(dataflow)芯片如何消除等待,涉及 kernel 边界与 kernel fusion 的局限。
「Infra」频道最新
- Inkling 2 Mini 在 RTX 5090 上用 vLLM 跑出 200 tok/s — VoidAsuka · 2026-11-22
- Reddit 网友乐观预言:廉价 GPU 回归只是时间问题 — ridhwanss · 2026-11-22
- AI 设计师断言本地 LLM 被高估:M3 Max 128GB 也追不上云端 — AIandDesign · 2026-11-22
- 一个 AI 泡沫寓言:发债、私募信贷、保险年金后的崩塌剧本 — Svwang1 · 2026-11-22
- 单张 RX 7900 XTX 跑 524k 上下文:自研引擎比 llama.cpp 快 3 倍 — W61k3r · 2026-11-22
- 平头哥估值或超800亿美元,与昆仑芯同赴资本市场对决 — 创业邦 · 2026-11-22