Simon Prince:6000 万参数的 AlexNet 本不该成功
Machine Learning Street Talk · youtube · 2026-11-12
《Understanding Deep Learning》作者 Simon Prince 在 Machine Learning Street Talk 节目中谈 AlexNet 为何「理论上不该奏效」:6000 万参数远超当时的视觉模型数个数量级,输入是 15 万维空间,却从随机权重出发用带噪梯度下降训练,最终竟能拟合 ImageNet——他称之为「令人瞠目」。短视频为完整对话的节选。
「研究」频道最新
- Deletion Tuning:只决定删哪些权重即可让模型学会新任务 — burkov · 2026-11-12
- 微软研究院推出 ATLAS 与 JANUS:金属玻璃新材料发现的神经采样器 — LesterMackey · 2026-11-12
- 把 Qwen「调小」后更爱社会工程学,人格可被向量操控 — Sauers_ · 2026-11-12
- 预训练与后训练为何缺少协同设计?研究者感叹公司只是在交付组织架构 — SonglinYang4 · 2026-11-12
- Google Research 与临床医生合作,训练懂患者上下文的医疗模型 — burny_tech · 2026-11-12
- 每张图都是一段压缩的论证:数据科学核心图表一次讲清 — burny_tech · 2026-11-12