scaling 思想源头:Ilya 2014 年 NeurIPS 演讲金句重现
peterjliu · x · 2026-10-07
peterjliu 回顾 scaling 思想的历史脉络:在 Noam Shazeer 之前,用神经网络做语言任务并大规模扩展的真正起点,当属 Ilya Sutskever 在 NeurIPS 2014 上的 sequence-to-sequence 演讲,其中那句名言——「如果你有一个很大的数据集,并且训练一个很大的神经网络,那么成功就是保证的!」——可视为 scaling 路线的早期宣言。
「Fun」频道最新
- AI 界「随机鹦鹉」怀疑派去哪了?大模型成功后集体沉默 — basedjensen · 2026-10-07
- shadcn/ui 火到用户不知道自己在用它 — shadcn · 2026-10-07
- AI 动画剧集《Gods Don't Give Gifts》曝光:23 人团队制作 9 个月 — TomLikesRobots · 2026-10-07
- 从「软件工程已死」到买12本教材:开发者AI编程心态八段论 — mattpocockuk · 2026-10-07
- 音乐人 Jordi Pons 推出 AI 音乐街机游戏「跳舞至死」 — jordiponsdotme · 2026-10-07
- 网友恶搞:马斯克拿下 dot.com 后,Grok 的「点」要通吃全场 — Reasonable-Sign8458 · 2026-10-07