Kording 实验室拆解现代 LLM：旧配方叠加内语、工具与智能体
宾夕法尼亚大学 Kording 实验室于 8 月 26 日发布系列推文，系统拆解了现代大语言模型的能力来源。其核心论点是：今天的 LLM 并非凭空跃迁，而是旧配方的延伸——在传统“预测下一个 token”的神经网络训练基础上，叠加了内隐语言、工具调用、智能体协调机制以及更优秀的评估体系，共同构成了当下的 AI 能力。
已确认
- @KordingLab 指出，以 2022 年为代表的旧版 LLM 虽能生成令人印象深刻的文本，但本质近似“随机鹦鹉”，往往流于表面；此后 AI 领域创新速度极快，已超越该阶段。
- 第一种改进思路是“内隐语言”：让模型生成用户看不见的文字作为思维草稿或暂存区，通过内部推演辅助生成更高质量的最终答案。
- 第二种思路是工具调用：让模型调用数据库、互联网搜索、计算器等外部程序，弥补自身知识局限或计算能力不足。
- 第三种思路是构建智能体：将组件化的 LLM、记忆模块、数据库与工具调用能力整合，通过协调各组件协同解决复杂任务。
- 另提出两条提升输出质量的策略：在存在“真理”定义的领域（如数学、编程），通过训练目标强推模型向该真理靠拢；在无明确真理定义的开放领域，利用 LLM 自我评估来检查答案，以超越简单的概率生成。
为什么重要
- 该系列为理解今日 LLM 的优势与短板提供了统一的组件化分析框架：现代交互式“思考”机器本质是旧配方与多项组件创新的组合，而非单一技术突破。
- 对研究者与工程实践者而言，“内隐语言—工具调用—智能体”的递进路径，以及对“真理引导 vs 自我评估”两类场景的区分，为后续改进 LLM 输出质量指明了清晰方向。
2026-08-26 ~ 2026-08-26 · 7 条相关
一手来源
- 从组件思想看今日 LLM 的强弱：旧配方加内语与工具 — KordingLab ·
- 现代交互式思考机器的演化配方 — KordingLab ·
- 提升 LLM 能力：真理引导与自我评估机制 — KordingLab ·
- 从“随机鹦鹉”到快速演进的现代 LLM — KordingLab · 2026-08-26
- 提升 LLM 回答的第一种思路：内隐语言 — KordingLab · 2026-08-26
- 增强 LLM 回答的第二种思路：工具调用 — KordingLab · 2026-08-26
- 生成答案的第三种思路：构建智能体 — KordingLab · 2026-08-26
- 【源头】提升 LLM 能力：真理引导与自我评估机制 — KordingLab · 2026-08-26
- 【源头】现代交互式思考机器的演化配方 — KordingLab · 2026-08-26
- 【源头】从组件思想看今日 LLM 的强弱：旧配方加内语与工具 — KordingLab · 2026-08-26