18 分钟长文讲透自回归:大语言模型只是个「下一个 token 猜测器」
sethjuarez · x · 2026-09-04
微软开发者 advocate Seth Juarez 发布系列教程开篇，系统讲解 LLM 的底层机制，为后续讲 agent 打基础。
核心内容：
- 论点：语言模型就是一个 next-token 猜测器，别无其他；一切「agentic」能力都是包在这一个机制外面的运行时。
- 模型看不到字母，文本先被切分为 token（如 BPE 把高频字符序列合并），模型的世界只是整数 token ID 序列。
- 自回归循环：猜一个 token、拼接回去、再喂进去、再猜，直到输出「结束」token——这就是所有聊天机器人的引擎。
- 文章预告后续将逐个原语搭建能自主规划行动的 agent。
「编程与Agent」频道最新
- Luke Wroblewski 做折叠屏智能体管理 App：协调 agent 已成全天候工作 — LukeW · 2026-10-21
- Agentic SDLC：工程师从写代码者转型为智能体编排者 — Pavan_Belagatti · 2026-10-21
- OpenAI dots 接入 Merge for Workforce：员工权限即 agent 权限 — shensi · 2026-10-21
- 拆解 Agent 拓扑:模型、循环与工具各跑在哪,决定成本与安全 — davidcrawshaw · 2026-10-21
- Agent 全盘+辅助功能权限失控，企业急需任务级访问控制 — leveragedupside · 2026-10-21
- Acellera 用无监督 AI 科学家虚拟实验室跑真实分子发现项目 — gdefabritiis · 2026-10-21