ChatGPT 的学习公式源于 1847 年：柯西为算行星轨道发明梯度下降
burny_tech · x · 2026-11-08
一篇广为流传的科普长文指出，现代神经网络的核心训练公式 w ← w − η∇L(梯度下降)并非诞生于 OpenAI 或 Google,而是近 180 年前由法国数学家柯西(Augustin-Louis Cauchy)为更快计算天体运动而发明的。
文章用「浓雾中下山」的比喻解释原理:
- 你看不见谷底,但能感受脚下的坡度
- 每一步都朝最陡的下坡方向走,再重新感受坡度
- 神经网络做的事一样:「山」是它的错误,「谷」是正确答案——只不过这座山不是三维,而是数十亿维
柯西用这个方法算行星轨道;同一个公式如今教会了机器写作。
「研究」频道最新
- Nous Research 发布 Propaganda_Eval 评测数据集,登上 Hugging Face 热门 — NousResearch · 2026-11-08
- 给135M小模型植入人工神经元,乘法成绩从21%飙到83% — CatAstro_Piyush · 2026-11-08
- 研究者自嘲：一次实验要人工标注 2785 条 agent 轨迹 — santiviquez · 2026-11-08
- Solidity 编译器 Solar 实测：编译 4.8 秒对比 solc 2 小时，fuzzing 内存省 4.7 倍 — banteg · 2026-11-08
- Cornell 教授招收 2027 秋 SE×AI 质量保障方向博士生，12 月 15 日截止 — AI4Code · 2026-11-08
- 配图数据:研发投入每翻倍的回报不降反升,突破点后提升 1.6 倍 — Jsevillamol · 2026-11-08