推理工程学习路径：从基础到 TensorRT-LLM 实战清单
HowDevelop · x · 2026-08-31
该帖子整理了一份推理工程的学习资源清单，帮助开发者掌握从模型原理到底层优化的全链路知识。核心内容包括：
- 基础理论：机器学习基础与数学、《Attention is all you need》论文。
- 核心资料：Philip Kiely 的《Inference Engineering》。
- 底层技术：GPU 内部原理与 CUDA 编程、Nvidia TensorRT-LLM 的性能剖析与基准测试。
此外还附带了多个相关的学习链接，适合作为深入学习推理优化的路线图。
「Infra」频道最新
- 单 GPU 也能搞 3D 并行：NCCL+MIG 终于可用 — StasBekman · 2026-08-31
- 寒序科技发布 uHBM 与 uLPU 推理架构 — 新智元 · 2026-08-31
- 单一模型替换多模型：成本降 61%，精度登顶实录 — DynamicWebPaige · 2026-08-31
- 不搞缓存吃大亏：同款模型 Nebius 贵 5.7 倍 — teortaxesTex · 2026-08-31
- GLM 5.3 与 Qwen Flash 能否替代量化版 Kimi？ — Hannibalj2ca · 2026-08-31
- 曝 OpenAI 扫货数万台 Mac，Anthropic 亦跟风 — ZeYanjie · 2026-08-31