30 道 PyTorch 题覆盖推理系统、量化与 KV cache
kalyan_kpl · x · 2026-07-23
这是一个用于学习 MLSys / 推理系统 的 30 题 PyTorch 练习单,覆盖了 MLA / MHA / MQA / GQA、MoE、量化、KV cache、解码、batching、以及分布式推理系统等主题。
配图里能看到它被整理成多个章节,偏向“边做题边学”的训练材料,而不是单纯的知识清单。对想系统补齐推理工程基础的人很有用。
「编程与Agent」频道最新
- Bindu Reddy 测试带长期记忆的 AI brain 做工作 — bindureddy · 2026-07-23
- GPT-5.6 会读代码,Fable 5 靠反复 MCP 调用试出来 — Angaisb_ · 2026-07-23
- Claude Code 预算工具读取本地日志,先提醒再烧额度 — getnable · 2026-07-23
- 开源视频号下载 Skill 支持直接用 URL 保存视频 — vista8 · 2026-07-23
- Fleet engineering 把 vibe coding 变成并行 AI 编程流程 — victor_explore · 2026-07-23
- 开源仓库打包 21 章智能体设计模式与代码笔记 — tom_doerr · 2026-07-23