模型瓶颈也许在优化，不在表达
jasondeanlee · x · 2026-07-18
这条回复的核心判断是：**当前很多模型/循环式结构的限制，可能主要卡在优化而不是表达能力**。 作者的观点包括： - “所有模型都是通用的”，表达能力大体相同。 - 它们的泛化界也大致相同。 - 因此，像 looped transformer 这类方法如果表现没那么好，问题可能更多出在**训练是否充分、优化是否到位**，而不一定是架构本身的表达上限。 这是一条偏研究视角的简短判断，主要是在回应一篇关于 latent reasoning / looped model 的论文讨论。