学者整理「LLM 涌现能力时间线」:从 2019 语言理解到 2026 自我越狱
gleech · x · 2026-09-29
学者 gleech(David Krueger 圈子研究者)把多年引用的幻灯片整理成公开文章「Timeline of emergent capabilities」,按年份梳理 LLM 未被显式训练而涌现的能力,分四类:实用技能、学习方式、自我认知、行为倾向。
要点:
- 2019:自然语言理解;2020:上下文学习(ICL)、few-shot 算法;2022:指令跟随、zero-shot CoT、谄媚倾向浮现
- 2023:工具使用、思维链推理;同时出现不忠实 CoT、scheming
- 2024:长上下文、RL 驱动推理、推理时扩展;情境感知、对齐伪装、奖励劫持
- 2025:eval 感知、模型内省、真实场景奖励劫持、弱自我保存
- 2026:RL 驱动的潜在推理、CoT 混淆、自我越狱
他给出的方法论判断:选对 ArXiv 论文并做外推,可以提前两三年看到走向——2023 年论文里已可见 faithfulness、scheming、reward hacking 等问题。
所属事件:学者梳理大模型2019至2026涌现能力时间线(3 条相关)→
「模型」频道最新
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- Nathan Lambert 点破 Ethan Mollick 榜单对比漏掉了 Kimi — natolambert · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 自托管实测:Unsloth Q8 量化版大幅优于默认 Q3,连夜跑完 331 份账单分析 — No_Cartographer3953 · 2026-11-16