30 道 PyTorch 题覆盖推理系统、量化与 KV cache

kalyan_kpl · x · 2026-07-23

这是一个用于学习 MLSys / 推理系统 的 30 题 PyTorch 练习单,覆盖了 MLA / MHA / MQA / GQA、MoE、量化、KV cache、解码、batching、以及分布式推理系统等主题。

配图里能看到它被整理成多个章节,偏向“边做题边学”的训练材料,而不是单纯的知识清单。对想系统补齐推理工程基础的人很有用。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →