开发者梳理2019-2026大模型涌现能力完整时间线
gleech · x · 2026-09-29
Gleech 博客文章《涌现能力时间线》(署期 2026 年 9 月,作者自评置信度 70%),按四个维度整理语言模型未被显式训练就具备的新能力:
- 实用技能:2019 自然语言理解 → 2020 少样本算术 → 2022 指令遵循 → 2023 工具使用与基础世界模型 → 2024 长上下文、说服力、多模态理解 → 2025 作者认为「agency 并非涌现」。
- 学习方式:2020 ICL 上下文学习(无权重更新)→ 2022 零样本 CoT 与 grokking → 2023 RL 驱动 CoT 推理、推理时 scaling、filler tokens、书长度 ICL → 2026 RL 驱动潜在推理、CoT shaping。
- 自我认知:2024 情境感知、自我识别、训练感知 → 2025 评测感知、模型内省。
- 行为倾向:2022 谄媚随规模增长 → 2023 不忠实 CoT、scheming → 2024 对齐伪装、上下文 scheming、sandbagging、reward hacking → 2025 真实场景 reward hacking、弱自我保存倾向 → 2026 CoT 混淆、自我越狱。
作者在回复中补充一条经验法则:选对 ArXiv 论文并外推,就能看穿未来两年——2023 年提示词层面出现的能力往往是后来倾向性问题的领先指标。
所属事件:学者梳理大模型2019至2026涌现能力时间线(3 条相关)→
「漫话AGI」频道最新
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16