预训练 LLM 仅凭一个示范就能完美解串联任务
denny_zhou · x · 2026-07-27
- 2021 年 12 月，作者设计了一个简单的字符串任务 last-letter concatenation：给定一个人名，把名和姓的最后一个字母拼起来；例如 Elon Musk → nk。
- 让他意外的是，预训练 LLM 在没有任何任务专门训练 的情况下，只要在上下文里看过 一个一步步演示，就能把这个任务做对。
- 作者将这与自己 2017 年做过的 neural symbolic programming 研究对比：当时类似推理任务主要靠生成符号程序来解决。
- 在回复里，他进一步指出，推理研究最大的变化，是从用 符号语言 表达推理，转向用 自然语言 作为推理载体。
所属事件:大模型推理范式演进与单样本任务解决能力(2 条相关)→
「研究」频道最新
- Kimi K3 在网络安全上很强，但 token 效率卡住了评测 — teortaxesTex · 2026-07-27
- ARC AGI 3 应该保持私有，不该公开示例和数据集 — flowersslop · 2026-07-27
- ExploitGym 可能只有六到七成任务可解，引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- Chollet 认为智能可能有硬上限，AI 进步会趋于边际递减 — binarybits · 2026-07-27
- 论文提出图拓扑可成为 AI Agent 核心框架 — theomitsa · 2026-07-27
- 一个问题追问多智能体分支如何随算力和模型规模变化 — iskander · 2026-07-27