SADL 插件损失号称把 JEPA 训练崩溃率从 50% 降到 0

TheTuringPost · x · 2026-11-19

David Sunok 介绍新方法 SADL(Supply And Demand Loss):作者认为 JEPA 训练中的表征崩溃不是正则化问题,而是「供需错配」——编码器 H 先崩溃,导致梯度无法回传到 Z。

要点:

作者同时肯定 LeJEPA 对 Z 的判断是对的,只是没有解决编码器侧先崩溃的问题。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →