JEPA 表示对齐定理引争议:正样本选择折射世界观假设
AnnaCiaunica · x · 2026-11-03
Yanbo Zhang 引用并商榷「Platonic Representation Hypothesis 已成定理」的工作:该定理声称分别训练的 JEPA(任意模态)可证明学到仅差一个旋转的相同表示,109M 的 JEPA-Text 与视觉模型的对齐度甚至超过 72B LLM(与 Yann LeCun 合作)。
但 Zhang 指出其假设相当苛刻:要求两个独立训练过程使用同一组正样本,而正样本类型近乎无限、只能选取有限个,选择本身就反映了研究者的世界观,他因此追问是否存在「最优正样本对」。
他还联系 Kleene 递归定理:它关心程序功能等价而非形式相同,而判定两个程序功能等价是不可判定的,这或许构成一个根本障碍,但也可能有出路。
「研究」频道最新
- WorldFlow 世界模型联合预测视频与 3D 轨迹,SpatialCog 位移误差降 54.2% — Yuhao Lu · 2026-11-03
- FLAMIA:MXFP8 注意力内核加速 Blackwell 训练,防因果泄漏支持变长打包 — yresearch · 2026-11-03
- Lab2Sim 基准:218 个实验视频转可交互虚拟实验,代码生成按状态机校验 — PolyUHK · 2026-11-03
- 清华实证研究:编码 agent 跨任务持续自演化会严重灾难性遗忘,旧数据集性能骤降 — Shangziqi Zhao · 2026-11-03
- 动物单图3D重建PRIMA被WACV2027接收,含9K伪3D数据集 — TrackingActions · 2026-11-03
- AI for Science 大会现场:物理信息损失与量子化学成主角 — burny_tech · 2026-11-03