Stanford CS336 推理课：Percy Liang 讲投机解码与量化
techNmak · x · 2026-10-17
LLM 推理学习资源清单第 3 条：Stanford CS336（Language Modeling from Scratch, 2025）第 10 讲——推理。由 Percy Liang 主讲，覆盖内存瓶颈、量化、投机解码（speculative decoding）和 PagedAttention 等推理核心技术。该课程从数据、架构、训练到部署完整走一遍 LLM 的构建过程，全部材料公开。
「Infra」频道最新
- SpaceX 拟接入 8 万座美国基站，博彩市场给了 29% 成运营商概率 — Polymarket · 2026-10-23
- Modular 宣布 MAX 框架开源：AI 计算不应被单一芯片厂商锁定 — clattner_llvm · 2026-10-23
- Modular 开放 MAX 源码，要做「AI 界的 LLVM」打破芯片锁定 — clattner_llvm · 2026-10-23
- Claude 模型登陆 Google Cloud:Anthropic 托管版正式可用 — claudeai · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- Perplexity 联手 AMD 推便携 AI 主机，本地跑 27B 模型做实时研究 — AravSrinivas · 2026-10-23