手推多层网络学习信号：为何交叉熵与平方误差梯度等价
alfcnz · x · 2026-09-24
alfcnz 继续连载从零讲解神经网络的系列，本节讲多层网络与学习信号。
- C. 多层网络：单层只能为每个方向学一个固定模板，而真实道路形态多变；隐藏层实现「像素 → 道路特征 → 转向」，没有人直接告诉隐藏单元正确答案
- D. 学习信号：损失 L(w, x, y) = C(y, ỹ) 是衡量网络错多离谱的一个数（板书用平方误差演示）；交叉熵被略去——因为每个输出与损失配对时，两种损失对 s 的梯度都是 ỹ − y
- 变换：隐藏单元用 σ(s)，输出用 softargmax(s)
所属事件:神经网络教学线程连载：多层网络如何学会公路表征(3 条相关)→
「研究」频道最新
- Anthropic:Claude 在噬菌体 DNA 中发现未知酶系统 — KevinKaichuang · 2026-09-24
- 新基准 TRACES 不看答案对错,专评 AI 解决未知问题的过程能力 — dr_cintas · 2026-09-24
- ECCV MMBU 基准揭示:视觉语言模型答对题却认不出图像模态 — davidjhwu · 2026-09-24
- 研究发现:作者其实能较准预测自己哪篇论文高被引 — RexDouglass · 2026-09-24
- Applied Compute 用 Jev 自动聚类 RL 训练中的失败模式 — rhythmrg · 2026-09-24
- 递归自我改进的经济学:AI 加速自身的成本收益账 — CFGeek · 2026-09-24