李博杰开源《深入理解 AI Infra》:从硬件极限推导大模型训练与推理设计
udmrzn · x · 2026-11-14
李博杰开源新书《深入理解 AI Infra》，仓库 8 月下旬建立，现已超 7500 star；是其 5 万+ star《深入理解 AI Agent》的姊妹篇。
- 方法论反转：不讲「用什么框架、调什么参数」，而是从硬件约束推导设计，反复追问五个问题——搬什么、搬多少、搬几次、经过哪里、谁必须等它
- 十二章内容：从模型架构、加速器、超节点、数据中心网络，讲到推理优化、分布式推理、训练系统和端边云协同
- 配套计算工具：只需 Python 标准库即可运行，无需 GPU 和模型权重，书中数字可自己复算
- 多语言多格式：中文原版外有英文、繁中、俄语社区译本，提供 PDF、EPUB 和在线阅读
- 状态：书稿仍为初稿，作者持续修订中
「Infra」频道最新
- 从 25% 到 100%：开发者把全部 agent 工作流搬进 Mac Mini 本地跑 — josh_bickett · 2026-11-14
- 英伟达为 AI 客户兜底 5300 亿美元，这笔循环融资的算术能撑住吗 — iamKierraD · 2026-11-14
- RTX 5070 Ti 超频与启动参数对 ComfyUI 出图速度实测:结果意外 — AnalElder · 2026-11-14
- Bernstein 测算：Neocloud 每兆瓦收入约为比特币矿企的 6 倍 — Beth_Kindig · 2026-11-14
- ZONOS3-Mini 发布:MoE 架构 TTS 可在手机和 MacBook 上实时运行 — cocktailpeanut · 2026-11-14
- 「推理元素周期表」梗图:12 种 LLM 推理技术一图看懂 — sophiamyang · 2026-11-14