开发者梳理2019-2026大模型涌现能力完整时间线
gleech · x · 2026-09-29
Gleech 博客文章《涌现能力时间线》(署期 2026 年 9 月,作者自评置信度 70%),按四个维度整理语言模型未被显式训练就具备的新能力:
- 实用技能:2019 自然语言理解 → 2020 少样本算术 → 2022 指令遵循 → 2023 工具使用与基础世界模型 → 2024 长上下文、说服力、多模态理解 → 2025 作者认为「agency 并非涌现」。
- 学习方式:2020 ICL 上下文学习(无权重更新)→ 2022 零样本 CoT 与 grokking → 2023 RL 驱动 CoT 推理、推理时 scaling、filler tokens、书长度 ICL → 2026 RL 驱动潜在推理、CoT shaping。
- 自我认知:2024 情境感知、自我识别、训练感知 → 2025 评测感知、模型内省。
- 行为倾向:2022 谄媚随规模增长 → 2023 不忠实 CoT、scheming → 2024 对齐伪装、上下文 scheming、sandbagging、reward hacking → 2025 真实场景 reward hacking、弱自我保存倾向 → 2026 CoT 混淆、自我越狱。
作者在回复中补充一条经验法则:选对 ArXiv 论文并外推,就能看穿未来两年——2023 年提示词层面出现的能力往往是后来倾向性问题的领先指标。
所属事件:学者梳理大模型2019至2026涌现能力时间线(3 条相关)→
「漫话AGI」频道最新
- 铁路宿命论:KOL 称 AI 大厂正借安全叙事求政府垄断庇护 — kevinnbass · 2026-09-29
- Gladstone AI 访谈十余位外交官:中美 AI 竞速难有条约,危机时刻一通电话定局 — harris_edouard · 2026-09-29
- Ben Thompson:Muse 时代预建 UI 已死,Agent 按需生成应用才是未来 — rseroter · 2026-09-29
- 博主反驳 AI slop 焦虑:人类早在 AI 之前就在批量生产垃圾内容 — vhanagwal · 2026-09-29
- 有模型群解猜想,MIRI 十五年的数学路线被重新提起 — inductionheads · 2026-09-29
- So8res:反垄断法或阻碍 AI 公司协同放缓开发 — wfithian · 2026-09-29