ICML论文：权重衰减塑造模型持续学习能力

ShamKakade6 · x · 2026-07-08

一篇 ICML 2026 论文研究“如何预训练能够持续学习的语言模型”，发现权重衰减（weight decay）会塑造模型持续学习的能力。属于预训练与持续学习方向的学术研究。