NVIDIA 工程师详解 CUDA fat binaries:PTX 只是虚拟 ISA 非最终重编译
matiasgoldberg · x · 2026-11-01
- matiasgoldberg（NVIDIA GPU 工程师）在推文中解释 CUDA 的兼容机制：fat binaries 意味着为每个目标 sm 版本直接打包 cubin，不存在最终环节的重新编译；所谓 "virtual sm" 只是提示某个 sm100 二进制源自 sm90 的 PTX，而 PTX 作为虚拟 ISA 可用于重新定向代码。
- 他还指出 ISA 层面的保证只针对输出结果，不覆盖具体时序（原子操作层面或哪个核心单元执行），这与 x86 上的 Spectre 问题同理。
所属事件:GPU 专家激辩驱动版本是否影响 CUDA 原子操作确定性(9 条相关)→
「Infra」频道最新
- Arohan 预告演讲：十年大规模训练系统经验的 Interstellar 式开场 — _arohan_ · 2026-11-01
- warmctl 用 DMTCP 快照让 vLLM 冷启动缩至 14 秒,CRIU 在 RunPod 失效 — kbesplv · 2026-11-01
- 极客梗图：为完全无文档架构手写 LLVM 后端，替代闭源 nvcc — mike64_t · 2026-11-01
- 企业领域蒸馏成风：成本从美元降到几美分且精度不损 — himanshustwts · 2026-11-01
- 预测2027年本地小模型将成最大故事，冲击云端推理生意 — ZeYanjie · 2026-11-01
- Reddit 实测:AMD EPYC+多卡 3090 跑 Qwen Q8 达 94 tok/s,8 路并发近线性扩展 — sleight42 · 2026-11-01