柏拉图表示假说成定理：109M JEPA 跨模态对齐胜 72B LLM
randall_balestr · x · 2026-10-30
Randall Balestrieri（与 Yann LeCun 合作）宣布「柏拉图表示假说」（Platonic Representation Hypothesis）已被证明为定理：分别训练的 JEPA 模型，无论使用何种模态，都可证明学到相差一个旋转矩阵的相同表示。
核心结果：一个仅 109M 参数的 JEPA-Text 模型与视觉模型的对齐程度超过了 660 倍大的 72B 级 LLM——在 PRH 自家基准上，它与 DINOv2 对齐得分为 0.184，高于 Qwen2.5-72B（0.154）和 Llama-3-70B（0.151）；配合 CLIP 图像编码器得 0.23，超过此前 SOTA 0.21。
对齐程度还遵循 scaling law（关于「好视角比例」与训练样本量），可提前预测训练结果，85 次新实验验证了预测精度。
所属事件:柏拉图表示假说成定理：JEPA 小模型胜大 LLM(12 条相关)→
「研究」频道最新
- 斯坦福 NLP 组转发：AI 人物维基收录教授 Tatsunori Hashimoto 词条 — stanfordnlp · 2026-10-31
- Stony Brook 教授实测 50 本前 ChatGPT 时代小说，AI 检测误报为零 — TuhinChakr · 2026-10-31
- 斯坦福 TaskNet 用工人访谈构建职业任务图谱,覆盖 318 个任务 — stanfordnlp · 2026-10-31
- OpenAI 与 Anthropic 宣称 AI 攻克悬置 27 年的计算机科学难题 — Fcking_Chuck · 2026-10-31
- 无配对数据也能跨模态对齐：Wasserstein Procrustes 新论文梳理 — phillip_isola · 2026-10-31
- MIT 教授实测：图像与文本嵌入仅靠一次旋转即可对齐 — phillip_isola · 2026-10-31