SALD:无需教师网络,扩散模型自参照优势学习框架
IITK · hf · 2026-10-14
IITK 团队提出 SALD,一种扩散模型自参照训练框架,无需外部示范或教师网络。核心做法是用同一模型对每个图文对在两个噪声水平下评估:低噪声路径不做梯度追踪作为参照,高噪声路径提供训练梯度,并用两条路径的误差差(优势)来调整难路径目标。配套三个组件:
- AGD:将相对误差转为可微的样本级权重
- TAM:跨训练积累相对难度,自适应调整两噪声水平的差距
- SAD:比较残差功率谱,构造频率导出的潜元素权重
全部组件共享一套模型参数,训练推理均不增加参数、不改推理流程。多架构多数据集实验显示生成质量一致提升,消融实验量化了各组件贡献。
「多模态」频道最新
- Midjourney v8.2 红蓝模糊摄影风实测：模糊动态人物质感惊艳 — azed_ai · 2026-10-14
- BVB 基准:让 agent 用 Blender 重建 288 段真实视频来检验视频理解 — SonglinYang4 · 2026-10-14
- Google 发布 Gemini 4 Argon,网友已用它狂造 3D 世界和游戏 — minchoi · 2026-10-14
- 开发者花一个月迭代自训视频模型的推理与训练流程 — pixlpa · 2026-10-14
- Correction Training 让扩散模型摆脱 CFG，循环架构渐成新共识 — CSProfKGD · 2026-10-14
- FramePack-U:常量内存压缩任意长视频,VLM长视频理解提升13% — UNC-ChapelHill · 2026-10-14