Medusa 从训练到推理全解：多 token 预测加速的两部曲教程
No_Progress_5399 · reddit · 2026-08-31
作者撰写了两篇系统性讲解 Medusa 投机解码的博客：
第一部分（训练）：
- Medusa 附加头的结构与 Medusa-1 / Medusa-2 两种训练方式
- shifted loss 的设计
- 与 MTP（multi-token prediction）的对比
第二部分（推理）：
- top-K 候选树的构建与 tree attention
- 验证、拒绝采样机制
- greedy 与 typical 两种接受策略的差异
作者欢迎有 Medusa 式解码实现或 benchmark 经验的读者反馈。
- Part 1
- Part 2
「Infra」频道最新
- 不要用 LLM 快速构建多租户数据库，维护成本极高 — kylegawley · 2026-08-31
- SemiAnalysis 团队实测：多家十亿美元级 Neocloud 存在严重安全漏洞 — AccBalanced · 2026-08-31
- vLLM：高吞吐、省显存的 LLM 推理服务引擎 — goyalshaliniuk · 2026-08-31
- 曝 OpenAI 大量采购 Mac Studio 做 RL 训练 — SumitGup · 2026-08-31
- 数据中心建设报道应借鉴昔日电报电缆铺设法 — jwt0625 · 2026-08-31
- 新项目 gpu_api 推出极简 API，持续优化图形渲染体验 — Michael_Moroz_ · 2026-08-31