Fei-Fei Lee 团队提出可扩散表征学习新目标:图像表征收敛到逐点互信息

kastnerkyle · x · 2026-10-20

Alan Baade(合作者含李飞飞、John Wetzstein、Justin Johnson、Vince Sitzmann 等)提出一种全新的表征学习目标,原理清晰、可扩展,在 DINO/LeJEPA 会坍缩的场景下依然有效。理论结果表明图像表征收敛到这样的特征:它与另一图像表征的点积等于两者的逐点互信息(pointwise mutual information)。

团队还得到了 tokenizer 与扩散的联合 scaling law,且相对纯扩散训练是计算最优的——tokenizer 成为新的 scaling 轴。论文与博客已放出。

所属事件:MIT 与斯坦福团队提出可解释表征学习新范式(8 条相关)→

原文链接 →

「多模态」频道最新

更多「多模态」频道 AI 资讯 →