从单个人工神经元到 Transformer:一张 AI 架构「进化树」全景
abhishekkumar333 · reddit · 2026-10-17
作者把 AI 架构的演进史整理成一张「进化树」,并配长文梳理每个关键节点:
- 起点:研究者尝试用数学模拟单个生物神经元(感知机),连 XOR 这样的基础逻辑问题都搞不定
- 几次关键「变异」:早期神经网络遗忘过快、梯度消失问题催生了 LSTM,为模型引入真正的记忆
- 现状:带注意力机制的 Transformer 成为当前架构的「顶级掠食者」
- 核心提问:如果 Transformer 只是当下生态位霸主,下一个范式跃迁是什么?会不会有新架构让 self-attention 看起来像基础逻辑门一样原始?
文章附有从 1958 年至今的时间线、各阶段奠基论文引用,以及标记每次范式转移的历史推文。作者还征集大家对 post-Transformer 时代的猜想。
「研究」频道最新
- ADMS 2026 论文 HetMatch:直接在 cuDF 中实现 GPU 加速模式匹配 — mgill25 · 2026-10-17
- 学者吐槽学术期刊 AE 滥用桌拒:图省事成了隐形筛子 — avt_im · 2026-10-17
- 密歇根大学量子物理学家:AI 两分钟解决曾困扰数月的数学难题 — 141_1337 · 2026-10-17
- AI4Bharat 携英伟达开源覆盖印度 22 种语言的 2.8T 词元训练数据 — CatAstro_Piyush · 2026-10-17
- 恶搞论文算出最贵电子:每摩尔价值 4.3 千万亿美元 — CatAstro_Piyush · 2026-10-17
- 同款VLA对比测试:Human Archive 100小时数据任务成功率最高 — chris_j_paxton · 2026-10-17