一本从零构建语言模型的书
burkov · x · 2026-07-15
这条帖子推荐 Andriy Burkov 的《The Hundred-Page Language Models Book》，定位非常明确：适合想真正动手构建语言模型，而不只是了解概念的人。 作者认为这本书的优点有三点：一是内容密度高、几乎没有水分，从 n-gram、RNN 一路讲到 Transformer、LLM 微调和提示；二是代码导向，示例都能在 PyTorch 和 Google Colab 跑起来，甚至会带读者从零实现三种语言模型架构，包括一个 Transformer；三是作者以往的机器学习书口碑很好，说明这种“短、快、实作”的教学风格是可信的。