Modal 推出免费 GPU Glossary：H100 可真并行超 1.6 万线程，每线程仅 5 瓦分之一

josh_wills · x · 2026-10-25

Modal 发布了「GPU Glossary」一本系统讲解 GPU 硬件与 CUDA 概念的术语手册（提供免费 PDF，另有印刷版），GergelyOrosz 推荐其讲清了 GPU 与 CPU 的结构差异。

书中一个直观对比：AMD EPYC 9965 CPU 最高 500W、192 核、最多 384 并行线程（每线程约 1.25W）；而 H100 SXM GPU 最高 700W、132 个 SM，每个 SM 有 4 个 Warp Scheduler，每周期可向 32 线程发射指令，总计超 16,000 条真正并行的线程（每线程约 5 毫瓦）。单个 SM 可并发执行 2048 线程，整卡并发线程数超 25 万。

关键洞察：GPU SM 相比 CPU 核心更简单、无推测执行，但靠 Warp Scheduler 在单时钟周期内切换 warp（比 CPU 上下文切换快千倍以上）来隐藏内存延迟——这种延迟隐藏正是 GPU 强项的秘密，而 CPU 则靠大缓存和复杂指令预测来对用户隐藏延迟。

原文链接 →

「Infra」频道最新

• 305M 激活参数小模型离线操控电脑：断网订日历只要 0.26 秒 — lmoroney · 2026-10-25
• SGLang 回应对比争议：重跑后 prefill 性能持平或超越 DeepInfer — hsu_byron · 2026-10-25
• 曝 Anthropic 洽谈 450 亿美元算力协议，西弗吉尼亚新增 460MW Rubin 容量 — Beth_Kindig · 2026-10-25
• DIY GPU 集群翻车实录：PCIe 重定时器会让你「着火」 — giffmana · 2026-10-25
• GPT-6.1 Sol 性价比登顶，作者称 Opus 5.5 仍会掉逻辑陷阱 — haider1 · 2026-10-25
• DeepSeek V4.1 Flash 去审查版 GGUF 冲上 Hugging Face 热榜 — orcarouter · 2026-10-25

更多「Infra」频道 AI 资讯 →