JEPA 表示对齐定理引争议:正样本选择折射世界观假设

AnnaCiaunica · x · 2026-11-03

Yanbo Zhang 引用并商榷「Platonic Representation Hypothesis 已成定理」的工作:该定理声称分别训练的 JEPA(任意模态)可证明学到仅差一个旋转的相同表示,109M 的 JEPA-Text 与视觉模型的对齐度甚至超过 72B LLM(与 Yann LeCun 合作)。

但 Zhang 指出其假设相当苛刻:要求两个独立训练过程使用同一组正样本,而正样本类型近乎无限、只能选取有限个,选择本身就反映了研究者的世界观,他因此追问是否存在「最优正样本对」。

他还联系 Kleene 递归定理:它关心程序功能等价而非形式相同,而判定两个程序功能等价是不可判定的,这或许构成一个根本障碍,但也可能有出路。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →