18 分钟长文讲透自回归:大语言模型只是个「下一个 token 猜测器」
sethjuarez · x · 2026-09-04
微软开发者 advocate Seth Juarez 发布系列教程开篇，系统讲解 LLM 的底层机制，为后续讲 agent 打基础。
核心内容：
- 论点：语言模型就是一个 next-token 猜测器，别无其他；一切「agentic」能力都是包在这一个机制外面的运行时。
- 模型看不到字母，文本先被切分为 token（如 BPE 把高频字符序列合并），模型的世界只是整数 token ID 序列。
- 自回归循环：猜一个 token、拼接回去、再喂进去、再猜，直到输出「结束」token——这就是所有聊天机器人的引擎。
- 文章预告后续将逐个原语搭建能自主规划行动的 agent。
「编程与Agent」频道最新
- 开发者用 Rust 打造新 SSR 框架，性能基准数字「有点离谱」 — mohamedmansour · 2026-09-05
- LangChain 为 agent 追踪自研数据库 SmithDB，招聘技术负责人 — LangChain · 2026-09-05
- OpenAI 发布 GPT-6 Astra:电脑上能做的事它都能替你做 — rounak · 2026-09-05
- 用蜜罐留言板测 agent:碰了就不该部署,但要按案例审慎处理 — voooooogel · 2026-09-05
- Astra 工作流设计：只在答案影响结果时才等待 — HaktanSuren · 2026-09-05
- Claude 太贵,知识工作者求推荐长上下文强指令跟随的替代模型 — SemiMagnum · 2026-09-05