反直觉发现：通用合成数据蒸馏效果胜过自生成数据

开发者 ostris 在训练 Ming Image 模型的蒸馏 adapter 时发现一个反直觉结果：V1 因时间不足只能用普通的 50/50 通用合成数据集训练，效果却出奇地好；而 V2 按常规方式用模型自生成专门数据集训练，表现反而不如前者。这一发现对蒸馏训练中「自生成数据更优」的常见假设提出挑战。

2026-09-24 ~ 2026-09-24 · 2 条相关