斯坦福 CS336 2026 春季课表公布:从零训练大模型的公开课
stanfordnlp · x · 2026-10-03
斯坦福 CS336《Language Modeling from Scratch》公布 2026 春季课表,由 Percy Liang 与 Tatsunori Hashimoto 主讲,课程材料公开,适合自学。
- 内容覆盖:从 tokenizer 到训练与评测完整流程,包括 Transformer 基础、GPU 优化、scaling laws、数据清洗与 reasoning RL。
- 教学方式:仿操作系统课思路,学生亲手完成预训练数据收集清洗、模型构建、训练与评估;作业以实现为主。
- 自学条件:需扎实的 Python 与 PyTorch 能力及 ML/数学基础;GPU 算力自理,课程建议先在 CPU 上调通正确性再上付费 GPU 跑训练。
- 讲座录像有 YouTube 播放列表,作业链接公开。
「公司和人」频道最新
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- marclou 办 10 万美元黑客松:30 天内须做出盈利的真生意 — marclou · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 曝马斯克挖角 NVIDIA:若黄仁勋离任可整体跳槽 SpaceX Terafab — inductionheads · 2026-11-19
- AI Tinkerers 洛杉矶 11 月 20 日办假日派对场,已有 70 人报名 — seanmcdonaldxyz · 2026-11-19
- 腾讯被曝最少买国产芯片,转用日本 neocloud 训模型 — teortaxesTex · 2026-11-19