免费 LLM 推理工程学习小组招募：从 KV Cache 到 vLLM 架构

V-on-run4_here · reddit · 2026-11-16

一位 Reddit 用户发起免费的 LLM serving 与推理工程学习小组，面向初级到中级水平，从第一性原理理解 LLM 推理与 GPU 优化。

覆盖主题包括：

• Transformer 架构基础机制
• KV Cache 与显存瓶颈
• PagedAttention：虚拟内存思想在 LLM 托管中的应用
• 连续批处理（Continuous Batching）：提升吞吐、降低迭代级延迟
• vLLM 架构全览

发起人表示凑满至少 10 人后再建 WhatsApp 群并协调跨时区会议时间，强调完全免费、无后续付费课程、非推广；发起人自述是初级工程师，并非导师角色。

原文链接 →

「Infra」频道最新

• OpenAI 年收入约 130 亿美元却承诺 1.15 万亿算力支出 — Qweskj · 2026-11-16
• Pirateface 推出开源模型 P2P 分享网络，绕过中心化托管 — alohahaho · 2026-11-16
• H200 对华销售停滞:分析师称美国芯片管制成「十年最大自伤」 — firstadopter · 2026-11-16
• 让 Agent 碰真实数据别用 mock:copy-on-write 克隆数据库秒级开分支 — petrusenko_max · 2026-11-16
• DGX Spark 本地跑 Qwen3.6+Qwen-Image，全自动每日猜谜网站零 API 费 — jbsan · 2026-11-16
• audio.cpp 0.9.5 上线本地实时数字人语音聊天,5090 延迟约 850ms — Acceptable-Cycle4645 · 2026-11-16

更多「Infra」频道 AI 资讯 →