预训练 LLM 仅凭一个示范就能完美解串联任务
denny_zhou · x · 2026-07-27
- 2021 年 12 月,作者设计了一个简单的字符串任务 last-letter concatenation:给定一个人名,把名和姓的最后一个字母拼起来;例如 Elon Musk → nk。
- 让他意外的是,预训练 LLM 在没有任何任务专门训练 的情况下,只要在上下文里看过 一个一步步演示,就能把这个任务做对。
- 作者将这与自己 2017 年做过的 neural symbolic programming 研究对比:当时类似推理任务主要靠生成符号程序来解决。
- 在回复里,他进一步指出,推理研究最大的变化,是从用 符号语言 表达推理,转向用 自然语言 作为推理载体。
所属事件:大模型推理范式演进与单样本任务解决能力(2 条相关)→
「研究」频道最新
- Agent 架构法则:验证器可参与生成反馈,但不得直接晋升候选解 — blaizedsouza · 2026-09-23
- q-Neurons:用随机 q 导数激活函数提升神经网络性能 — FrnkNlsn · 2026-09-23
- 曝 OpenAI 将办期刊:内部模型多 agent 评审,冲击 ML 会议 — kfountou · 2026-09-23
- 耶鲁博士生开源顶会论文画图脚本,还能接入 Claude Code 当 Skill — burny_tech · 2026-09-23
- AI 在 ForecastBench 上追平超级预测员,10 月将再战 — burny_tech · 2026-09-23
- 几句 prompt 让 Opus 用 Lean 形式化验证 Agent SDK,产出 16 个修 bug PR — bcherny · 2026-09-23