海森矩阵入门：二阶导数如何影响神经网络优化
burny_tech · x · 2026-07-21
- 这条帖在讲 Hessian matrix（海森矩阵），即由函数各个二阶偏导数组成的方阵。 - 在二维情形下，它就是熟悉的 \(f_{xx}\)、\(f_{xy}\)、\(f_{yx}\)、\(f_{yy}\) 组成的矩阵。 - 配图还展示了 Otto Hesse、本体定义、紧凑记号，以及用曲面示意临界点的意义。 - 文中提到，在神经网络训练里，Hessian 可用于二阶优化方法，帮助比单纯梯度下降更高效地更新参数。
「模型」频道最新
- Kimi K3 软件任务峰值 89.4%，Fable 5 稳定性略高 — FinanceYF5 · 2026-07-21
- Kimi K3 只在 Go 领先，Fable 5 包揽其余四种语言 — FinanceYF5 · 2026-07-21
- Kimi K3 pass@4 达到 89.4%，超过 GPT-5.6 Sol — FinanceYF5 · 2026-07-21
- Kimi K3 与 Fable 5 的差距已不像过去那样明显 — FinanceYF5 · 2026-07-21
- 一条转发称 Claude 现在能在几分钟内做完整 App — hey_abusiddik · 2026-07-21
- Qwen3.8 Max Preview 被吐槽思考长达 10 到 30 分钟 — vista8 · 2026-07-21