Nature 研究:反复用 AI 生成数据训练会导致模型坍塌

CurieuxExplorer · x · 2026-10-13

作者引用 2024 年发表于 Nature 的研究发现:在不充分保留真实数据的情况下,反复用 AI 生成的输出训练模型,会导致「模型坍塌」(model collapse)——稀有模式消失、误差累积、多样性受损。

由此他追问:当我们批量生成灾难、爆炸和战斗视频时,是否在用毁灭内容训练 AI?他给出克制的答案:生成的视频不一定成为训练数据,但一旦合成内容混入未来数据集,就会影响未来模型学到什么。