柏拉图表示假说成定理：JEPA 小模型胜大 LLM

Randall Balestriero 与 Yann LeCun 等发布论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》，将「柏拉图表示假说」（Platonic Representation Hypothesis）从猜想升级为定理，并给出实验与理论支撑，主张 JEPA 架构是实现跨模态收敛表示的可行路径。据 @galilai-group 转发归纳，该结果意味着「好视角」比堆规模更省算力（约 42 倍）。

已确认

• 定理条件：当正样本视图是同一场景的不同观测（如同一张照片的两条描述、同一段视频的两帧）时，在任意数量模态上分别训练的 JEPA 可证明学到只差一个旋转变换的相同嵌入；模态本身不影响结论。
• 对齐实验：在 PRH 基准上，109M 参数的 text-JEPA 配合 DINOv2 图像编码器，跨模态对齐成绩超过约 660 倍大的 72B LLM。
• 零配对基准：在 Phillip Isola 团队最新的 pair-free（零图文对）基准上，109M text-JEPA 在 ImageNet100 上取得 64% 准确率，超过该基准上所有至多 8B 参数 LLM 报告的零样本结果（最高 56%）。
• scaling law：JEPA 与视觉模型的对齐程度遵循以「好视角比例」和样本数为变量的 scaling law；作者先注册预测再跑 85 次全新实验验证，预测精度堪比换随机种子重跑同一实验。
• 跨模态生成演示：在 text-JEPA 之上仅用文本微调一个小 LLM 解码器，图片经 DINO 编码器处理并通过一次旋转变换映射进文本空间后，解码器即可生成图片描述——全程无任何网络在图文对上训练过。
• 理论解释：当正样本对只是「同一观测的两个无信息损坏」时，各模态编码器会把表示维度花在各自噪声上，任何旋转变换都无法对齐；下一个词预测可被表述为带坏视角的 JEPA（前缀+续写），这解释了生成式 LLM 对齐能力扩展不佳的现象。

为什么重要

• 该结果为「不同模态、分开训练的模型会收敛到相似表示」这一假说提供了首个定理级证明，且给出可操作的收敛条件（正样本须为同一场景的观测、视角需有信息量）。
• 小模型（109M）在跨模态对齐与零样本任务上以大幅参数劣势胜过大模型，对「堆参数做大生成式 LLM 才能获得跨模态能力」的路线构成挑战，为 JEPA 这类非生成式架构提供了理论与实证双重支持。

2026-10-30 ~ 2026-10-30 · 12 条相关

• 【源头】柏拉图表示假说成定理：109M JEPA 跨模态对齐胜 72B LLM — randall_balestr · 2026-10-30
• PRH 成定理：分开训练的 JEPA 表示只差一个旋转 — randall_balestr · 2026-10-30
• 何时分开训练的跨模态模型可证收敛？好视角是关键 — randall_balestr · 2026-10-30
• 「坏视角」拖垮 LLM 对齐：下一个词预测即低信息 JEPA — randall_balestr · 2026-10-30
• 109M 文本 JEPA 对齐成绩超 660 倍大的 72B LLM — randall_balestr · 2026-10-30
• 跨模态对齐遵循 scaling law，85 次实验验证预测精度 — randall_balestr · 2026-10-30
• 纯文本训练的小解码器经一次旋转变换即可描述图片 — randall_balestr · 2026-10-30
• 109M text-JEPA 零配对基准 64% 准确率，胜过 8B LLM 的 56% — randall_balestr · 2026-10-30
• 【源头】无配对训练也行：109M text-JEPA 零样本胜 8B LLM — randall_balestr · 2026-10-30
• LeCun 等证明 JEPA 版「柏拉图表示假说」，109M 模型胜过 72B — randall_balestr · 2026-10-30
• 【源头】LeCun 团队证明柏拉图表示假说:好视角比规模更省 42 倍算力 — galilai-group · 2026-10-30
• Platonic 表示假说被证明为定理:109M JEPA 对齐视觉胜过 72B LLM — ClementineDomi6 · 2026-10-30