斯坦福 CS336 免费课程：从零构建大语言模型
bigaiguy · x · 2026-08-21
斯坦福大学开设的 CS336 课程被誉为网上最被低估的 AI 课程，完全免费。课程由 Percy Liang 和 Tatsu Hashimoto 两位高引研究员授课，旨在教学生从零开始构建语言模型。
课程大纲涵盖了 LLM 开发的全栈知识：
- 基础：Tokenization、BPE、词汇表设计
- 架构：使用原生 PyTorch 编写 Transformer
- 训练：分布式训练与预训练循环
- 扩展：缩放定律与数据策展
- 对齐：SFT、RLHF、DPO 及偏好优化
- 推理：KV Cache、推测解码与服务
- 评估：红队测试与能力测量
所有讲座视频、幻灯片及作业均公开可获取。
「公司和人」频道最新
- AI 时代的数学价值：Francis Su 教授致学生的信 — stevenstrogatz · 2026-08-21
- 英国 AISI 换帅：创始元老 Henry de Zoete 出任新院长 — HZoete · 2026-08-21
- 15 天 AI 构建 Fellowship 开营：300+ 申请筛出 52 名 builder — tushaarmehtaa · 2026-08-21
- Swizec 播客观点：懂业务全局的工程师永远不缺机会 — js_craft_hq · 2026-08-21
- MIT 教授《简单法则》成 Apple 与 Google 设计圣经 — thisguyknowsai · 2026-08-21
- 阿里多模态全线提速：AI产品ARR破495亿，云收入增速45%创22季度新高 — 智东西 · 2026-08-21