Google 免费放出 GPU 大师课：从 Tensor Core 到 HBM 全拆解
mdancho84 · x · 2026-11-05
Google DeepMind 系列教材《How To Scale Your Model》的第 12 章「How To Think About GPUs」免费公开，深入讲解 NVIDIA GPU 的工作原理及其对 LLM 的意义，并与 TPU 对比。
- 核心：现代 ML GPU（H100/B200）本质是一堆专做矩阵乘法的计算核心（SM）连接到高速显存 HBM
- 附图解层级：Tensor Core（矩阵乘主力，类似 TPU MXU）、Warp Scheduler（SIMD 向量单元，对应 TPU VPU）、SMEM/L1 Cache（H100 上 256kB）、L2 Cache（50MB）、HBM（H100 80GB / B100 192GB）
- 建议先读第 2 章和第 5 章再进入本章
所属事件:Google DeepMind 免费开放大模型扩展系统教材(2 条相关)→
「Infra」频道最新
- Arena 数据：任务越贵 Gemini 4 Carbon 成本优势越大，达 GPT-6 Astra 的 1/3.4 — arena · 2026-11-05
- 苹果警告内存芯片涨价「前所未有」，假日季毛利率将降至 45% — rohanpaul_ai · 2026-11-05
- 内存涨价冲击苹果:假期季毛利率将从 48% 降至 45% — rohanpaul_ai · 2026-11-05
- 从业者观点:AI Infra 围绕 token 构建,像素与 3D 应成一等公民 — prateekj · 2026-11-05
- 3 倍杠杆芯片 ETF SOXL 日成交 34 亿美元,超多个加密币永续市场 — tomwanhh · 2026-11-05
- AI 正式成为 Kubernetes 一级工作负载：AI Conformance 升级为永久子项目 — TerryTangYuan · 2026-11-05