LLM 推理优化前置知识：Transformer 演进与分类

blaizedsouza · x · 2026-08-17

这是一篇关于 LLM 推理工程的长文导览。文章指出推理工程的核心是在保持质量的前提下提升速度与降低成本。回顾了神经网络从感知机、RNN 到 Transformer 的发展历程，解释了“Attention is All You Need”的重要性。同时区分了基于 Transformer 的两类模型：自回归token生成（预测下一个）与去噪（如 Diffusion 从噪声中细化）。