斯坦福 CS336 学员从零实现 tokenizer,分享实战心得
stanfordnlp · x · 2026-10-02
一位学员在跟斯坦福 NLP 组的 CS336 课程(从零构建语言模型)后,自己动手实现了 pre-tokenizer 和 tokenizer,并以推文串形式分享了学习心得。CS336 是斯坦福公开的语言建模从零实现课程,适合想深入理解大模型底层机制的学习者。
「模型」频道最新
- 把江户参勤交代动画交给 Claude 改造,设计效果惊艳 — tkasasagi · 2026-10-02
- 马斯克转评:AI 已在会计测试中碾压人类,18 个月前还不及格 — elonmusk · 2026-10-02
- Mirostat 还有人用吗？新一代模型是否已不需要采样控制 — ParvusNumero · 2026-10-02
- 本地实测:9B 微调模型延迟降至 1/4,RTX 5070 跑分惊艳 — Storge2 · 2026-10-02
- Bindu Reddy 预告 Fable 5.5 最早下周发布，称将是最强可用模型 — bindureddy · 2026-10-02
- 开源本地模型「够用论」：日常任务不需要前沿智商 — Dan_Jeffries1 · 2026-10-02