体积假设、平坦极小值与局部极小值之争
fleetwood___ · x · 2026-07-06
@fleetwood___ 分享了关于深度学习优化理论的几篇阅读材料,涉及"体积假设(volume hypothesis)"、平坦极小值(flat minima)等概念。 其核心 provocative 观点是:"局部极小值(local minima)从一开始就是场骗局(psyop)"——即在高维损失景观中,真正困扰优化的并非局部极小值,绝大多数临界点实为鞍点,这一经典话题被重新讨论。适合作为深度学习优化理论的学习材料。