普林斯顿讲座揭示:超大随机矩阵为何不再随机

tctjr · x · 2026-07-31

普林斯顿大学概率论学者 Ramon van Handel 在哈佛大学的讲座中,深入解释了强收敛现象(strong convergence phenomenon)。

讲座指出,深度学习模型中的权重矩阵在初始化时虽是随机数,但随着矩阵维度的不断增长,其极端行为(如最大特征值和算子范数)会停止随机波动,并锁定在一个确定性的极限上。

这一理论解释了为什么神经网络的初始化能够生效、谱范数为何可预测,以及为什么大型网络在表现上比小型网络更加稳定一致。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →