LoopedWM循环复用单块,参数效率提升百倍
jiqizhixin · x · 2026-07-08
FaceMind Research Asia提出Looped World Models(LoopWM),通过循环复用单个transformer块逐步精炼预测,在不增加参数的情况下实现自适应计算。该方法实现最高约100倍的参数效率,长时序rollout更稳定,在多类模拟任务上的预测精度可媲美或超过更大模型。研究探讨世界模型能否在不爆炸性增长参数或误差的前提下模拟长时序。
jiqizhixin · x · 2026-07-08
FaceMind Research Asia提出Looped World Models(LoopWM),通过循环复用单个transformer块逐步精炼预测,在不增加参数的情况下实现自适应计算。该方法实现最高约100倍的参数效率,长时序rollout更稳定,在多类模拟任务上的预测精度可媲美或超过更大模型。研究探讨世界模型能否在不爆炸性增长参数或误差的前提下模拟长时序。