调 MOSS 采样分布后 12 epoch 超过旧方案 30 epoch 相似度

shootthesound · reddit · 2026-10-19

作者深夜排查 MiniMax H3 与 MOSS 模型 LoRA 训练中人脸相似度难提升的问题,发现根因在噪声调度:MOSS 自带 schedule 只有约 11% 的训练步落在 clean 端(sigma<0.5,负责细节与 likeness),而 Krea 2 有 18-28%,其余步数都在做布局构图,导致 epoch 间指标大幅跳动。

他发布了 Fizgig v8.7.0,新增 Clean-end share 选项,默认 60%。用同一份 53 张图数据集、rank 16、LR 1e-4、同 seed 的 ArcFace 相似度对比:

作者强调 60 是实验值,建议社区尝试 30(接近 Krea 2 水平)等数值并回报结果。工具与 release 见 GitHub Fizgig 仓库。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →