从 Cajal 神经元到 Transformer:神经网络的学术谱系梳理
vishalmisra · x · 2026-09-26
作者梳理现代神经网络的智力源流:所有当代人工神经网络(包括 Transformer)都源自这条脉络——生物神经元 → McCulloch-Pitts 数学抽象 → 感知机 → 多层神经网络 → 深度学习。
- Cajal 绘制的生物神经元是「灵感来源」,但现代神经网络并非字面意义上模仿生物
- 真正的起点是 1943 年 McCulloch & Pitts 的数学抽象模型
- Rosenblatt 的感知机开启了这条技术路线
所属事件:神经网络源自数学抽象而非字面上的大脑(3 条相关)→
「研究」频道最新
- 工程师主张:搞懂 kernel 为何慢,胜过盲目抄优化实现 — Abhishekcur · 2026-09-26
- SMARTERS 论文警示：模拟光谱训练的模型换到实验频段即失效 — bravo_abad · 2026-09-26
- MIT 论文：scaling 法则到期，下次翻倍训练成本暴增 6 倍 — DavidLinthicum · 2026-09-26
- Sebastian Raschka 推理系列第五讲:对数概率打分与自我修正 — rasbt · 2026-09-26
- Reddit 热议:该有工具定期跑同一基准,监测模型 nerf — spinozasrobot · 2026-09-26
- FlashLoop:利用跨循环冗余加速 Looped Transformer,延迟降 1.65 倍 — KyeGomezB · 2026-09-26