计算领域无人重编译 PTX:fat binary 让 cubin 指令调度彻底固化
mike64_t · x · 2026-11-01
mike64t 系统阐述 CUDA 编译模型以反驳 matiasgoldberg:CUDA 的 fat binary 为每个目标 sm 版本打包机器码,该路径不存在最终重编译;「virtual sm」只是标记某 sm100 二进制源自 sm90 PTX 的提示。PTX 是虚拟 ISA,理论上可像图形程序员那样广泛重定向,但实践中计算领域无人这么做。cubin 就是 GPU 实际运行的 SM 机器码 ELF 二进制,指令级调度已烧死其中。QMD/nvpushbuf 等易变部分是另一回事,与引发这种指纹化的 GPU 不确定性无关。
所属事件:GPU 专家激辩驱动版本是否影响 CUDA 原子操作确定性(9 条相关)→
「Infra」频道最新
- Arohan 预告演讲:十年大规模训练系统经验的 Interstellar 式开场 — _arohan_ · 2026-11-01
- warmctl 用 DMTCP 快照让 vLLM 冷启动缩至 14 秒,CRIU 在 RunPod 失效 — kbesplv · 2026-11-01
- 极客梗图:为完全无文档架构手写 LLVM 后端,替代闭源 nvcc — mike64_t · 2026-11-01
- 企业领域蒸馏成风:成本从美元降到几美分且精度不损 — himanshustwts · 2026-11-01
- 预测2027年本地小模型将成最大故事,冲击云端推理生意 — ZeYanjie · 2026-11-01
- Reddit 实测:AMD EPYC+多卡 3090 跑 Qwen Q8 达 94 tok/s,8 路并发近线性扩展 — sleight42 · 2026-11-01