新研究:合成数据持续累积时,「模型崩溃」并不会发生

AndrewLampinen · x · 2026-10-14

Andrew Lampinen 转发并推荐 MGerstgrasser、Rylan Schaeffer 等人的新研究,回应「模型用合成数据训练会崩溃」的担忧:当数据持续累积(accumulating pool)时,被广泛恐惧的 model collapse 并不会发生。

关键结论:即使在最坏情况下——不加入任何新的真实数据、模型只在原始数据加不断累积的合成数据池上训练——性能依然保持稳定。这为合成数据在数据受限预训练中的可用性提供了重要实证。

所属事件:多项研究表明合成数据累积不会导致模型崩溃(4 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →