深度网络运行时间有界,为何学不到 Solomonoff 式长程序
Kenku_Allaryi · x · 2026-10-10
这组推文讨论 Solomonoff 归纳与深度学习的本质差异:Solomonoff 框架允许代码很短但运行极久的程序,而深度网络的运行时间是有界的,因此无法实现这类计算。回复者进一步类比人类:人类也有类似深度网络的归纳偏置,大脑局部权重很可能一直在隐式求解微积分问题,却需要牛顿这样的天才才能显式看见微积分。
Kenku_Allaryi · x · 2026-10-10
这组推文讨论 Solomonoff 归纳与深度学习的本质差异:Solomonoff 框架允许代码很短但运行极久的程序,而深度网络的运行时间是有界的,因此无法实现这类计算。回复者进一步类比人类:人类也有类似深度网络的归纳偏置,大脑局部权重很可能一直在隐式求解微积分问题,却需要牛顿这样的天才才能显式看见微积分。