90 秒手算神经网络:一条推文讲透前向传播的数学
HarperSCarroll · x · 2026-11-08
科普博主 Harper Carroll 用一个具体例子讲清神经网络前向传播的数学:
- 网络由输入层、隐藏层、输出层组成,神经元之间用带「权重」的边连接
- 文本先经 embedding 转成数字(真实模型里向量动辄上千维,例子里只用 2 维)
- 算法就是加权求和:输入 5 和 2,某神经元的两条边权重为 10 和 2,则其值为 5×10+2×2=54;相邻神经元权重 20 和 4,值为 108
- 逐层重复这个「乘权重再相加、向后传递」的计算——几乎所有生成式 AI 模型都跑在这套运算上
作者提醒示例省略了非线性激活函数,并预告后续将讲输出层的差异、权重如何通过反向传播学得。
「研究」频道最新
- LLM 既是论文作者也是审稿人，学界身份混淆引热议 — miniapeur · 2026-11-08
- 研究揭示:降温采样为何能修正生成模型训练数据不足的偏差 — bravo_abad · 2026-11-08
- 学界抗议审稿人用 AI 自动生成同行评审:对作者的不尊重 — TuhinChakr · 2026-11-08
- AI 论文冰山图走红:从 Attention 到冷门 RL 论文分七层 — burny_tech · 2026-11-08
- LEV-2.6B 深度1到4,JevBench 成绩从 63.2% 升至 76.2% — RobertTLange · 2026-11-08
- 牛津学者发论文称 LLM 几乎无法发明，只有人类能做无数据的决策 — alex_verem · 2026-11-08