微软 AI 布道者发文:LLM 本质只是猜下一个词,一切 agent 都是其封装
sethjuarez · x · 2026-09-08
微软 AI 平台布道者 Seth Juarez 发布长文《How the Machine Guesses the Next Word》，作为 agent 系列的开篇，主张：语言模型就是一个 next-token 预测机器，之后所有 agentic 能力都是围绕这一个机制构建的运行时。
核心内容：
- 模型「知道」巴黎是法国首都是错觉：给定前文，它只是计算出词表中最可能的下一个 token，仅此而已。
- 文本先被切成 token（常按 byte-pair encoding 把高频字符序列合并），模型的世界只是一串整数 token ID，从未见过字母本身。
- 训练可以一句话概括：喂数据、遮住下一个词、猜、看错多少、往更对的方向微调，重复数万亿次，「语法和推理就从旁边掉出来了」。
- 文章定位是为后续逐层构建会规划、会行动的 agent 打地基。
「编程与Agent」频道最新
- GUI 打磨最佳的编程智能体：国外 Codex、国内 ZCode — vista8 · 2026-09-09
- 网友给 kool-brushez 写了音频波形笔刷，repo 已开源 — dbreunig · 2026-09-09
- Greg Kamradt:AGI 的「通用」在于模型能用自建工具持续做事 — GregKamradt · 2026-09-09
- 开发者用 Git 做多 Agent 共享记忆层：历史、diff、冲突全免费 — DJIRNMAN · 2026-09-09
- Meta Muse Spark 1.3 用量在 opencode 上超 DeepSeek V4 Flash，达 23T tokens — jack_w_rae · 2026-09-09
- agent-browser 支持 60fps 录屏,直指 AI 编程新瓶颈 QA — moeinteractive · 2026-09-09