蒸馏训练 adapter 反直觉发现:通用数据效果更好

ostrisai · x · 2026-09-24

ostrisai 在做蒸馏训练 adapter 时发现一个反直觉现象:为 Ming Image 训练 V1 adapter 时,因为没有时间用模型生成专门数据集,只用了通用的 50/50 合成数据,结果效果出奇地好。而 V2 按常规做法、用模型自己生成的图像数据认真训练后,效果反而不如 V1。他接下来准备重训的第一个模型是 H3。

所属事件:反直觉发现:通用合成数据蒸馏效果胜过自生成数据(2 条相关)→

原文链接 →

「多模态」频道最新

更多「多模态」频道 AI 资讯 →