用曲率衡量表示是否真正收敛
its_vayishu · x · 2026-07-18
作者指出，衡量表示在层间“移动了多少”时，**arc length（弧长）** 不是好指标，因为它只是在累加步长：轨迹即使来回折返，弧长也会很大，但并不代表有真正进展。 他主张改用 **curvature（曲率）**，即连续位移向量之间的夹角，来判断方向是否在稳定。 - **低曲率**：说明网络后层里表示正在选定方向并持续推进 - **区别于距离/弧长**：曲率能区分“真实收敛”与“只是来回运动” - 这在 layer-wise interpolation / latent trajectories 里尤其有用，而且计算成本很低