Google DeepMind 团队发布《如何扩展模型》技术书

philhchen · x · 2026-08-18

Google DeepMind 团队发布了新书《How To Scale Your Model》，从系统工程视角深入解析 LLM 在 TPU/GPU 上的运作原理。内容涵盖 Roofline 模型分析、设备间通信机制、训练与推理的并行化策略（如 AllGather），以及如何估算训练成本和内存需求。该书旨在将模型性能优化从“炼金术”转化为可理解的科学，适合希望掌握大规模模型部署与优化的开发者。