深入解读 NVIDIA 指令调度模型:静态延迟与 scoreboard 的博弈
mike64_t · x · 2026-11-01
作者撰文解析 NVIDIA GPU 的指令调度模型。要点:
- IADD(整数加法)属于整数管线,具有固定的、可预知的延迟,ptxas 会对它做主动断言(assert),地球上所有 cubin 都依赖这一假设;该延迟只随 SM 版本变化。
- 整个 NVIDIA 指令调度模型依赖部分管线的静态延迟:这是静态调度的基石。
- 但也存在动态延迟指令,访问主存会触发长 scoreboard 停顿或 lg throttle 行为——这正是 scoreboard 存在的原因:纯静态调度模型无法容纳动态延迟。
- 代码生成器并不总是用 scoreboard 等待,而是按静态调度选择停顿(stall),以保证指令发射时竞争条件成立。
- 关于驱动部分的论述在引用段落中未完整展开。
「Infra」频道最新
- Reddit 实测:AMD EPYC+多卡 3090 跑 Qwen Q8 达 94 tok/s,8 路并发近线性扩展 — sleight42 · 2026-11-01
- 内存 18 个月涨 7 倍至 429 美元,Altman 称「看不见的手正在失灵」 — aakashgupta · 2026-11-01
- 原子操作结果随指令数摇摆:600 条还是 599 条无人保证 — matiasgoldberg · 2026-11-01
- PTX 不保证二进制稳定:驱动可随时改写已编译 cubin — matiasgoldberg · 2026-11-01
- 马斯克暗示数据中心提前建成,xAI 2026 年底或达 1000 亿美元 ARR — mitchdeg · 2026-11-01
- 3B 模型训练时渐进复制中层,GSM8K 19% 胜 12% 且省 26% 算力 — burny_tech · 2026-11-01