李博杰开源 500 页《深入理解 AI Infra》,称模型是新时代操作系统
udmrzn · x · 2026-09-15
《深入理解 AI Agent》作者李博杰(前 PingCAP/现为独立研究者)开源发布姊妹篇《深入理解 AI Infra:量化分析与系统设计》,全书约 500 页、12 章,GitHub 已获 2.2k+ Star,提供 XeLaTeX 排版的 PDF 与配套计算工具、实验。
- 核心论点:编程抽象正从操作系统上移到模型上下文——LLM 时代,模型成了操作系统,AI Infra 成了新的计算机体系结构;
- 主张从硬件约束和模型架构出发,量化推导系统设计,而非泛泛科普;并举 DeepSeek V4/V4.1 重新设计长上下文表示作为「模型适应硬件」的例子;
- 12 章覆盖:模型架构、推理与训练负载、加速器架构、算子与运行时、超节点、数据中心网络、推理优化、分布式推理、训练系统、资源调度、端边云协同。
欢迎 star 与提 issue/PR。
「Infra」频道最新
- RTX 5090 被单托盘采购,单卡超 5000 美元难逃 AI 公司哄抢 — rickasaurus · 2026-09-15
- d-Matrix 借道 Nvidia 机架:竞对推理芯片接入 NVLink Fusion — ocean_protocol · 2026-09-15
- 推友设想去中心化训练框架:用算力投票决定研究方向 — dbasch · 2026-09-15
- Ornn 发布 B300 回本预测：H100 现租价 $2.78/小时 — AnneliesGamble · 2026-09-15
- Anthropic:Claude 写了 80% 代码,CI 任务量半年暴涨 25 倍 — addyosmani · 2026-09-15
- 黄仁勋：中国 2030 年前将拥有 EUV，量产能力本就领先 — pstAsiatech · 2026-09-15