LeCun 长文澄清:DINO 本质是 JEPA,多数 JEPA 论文只是微调变体
ylecun · x · 2026-11-08
Yann LeCun 针对围绕 JEPA 的争论发长文澄清几个技术要点:
- 图像/视频 SSL 方法的区别在于是否用重建,联合嵌入架构(JEA/JEPA)可有可无 predictor,各家差异还在防坍缩方法与数据增广方案上。
- DINO 本质上就是一种 JEPA(技术上属 JEA),与其他 JEPA 模型的差别在于防坍缩准则(基于对比聚类 + stop-gradient/EMA)和面向任务的图像变换增广。
- V-JEPA 2.1 与 DINO 同样出自 Meta-FAIR 企业实验室,背后是大量工程团队、专有大数据集、可观算力和大量微调与刷榜。
- 大量标题带 JEPA 的论文(如 LeJEPA、LeWM)实际只是 DINO、V-JEPA 或 I-JEPA 的应用或微调版本,原创性有限。
「模型」频道最新
- Kimi K3.1 Pro 以 95.4% 登顶 BabyVision 婴儿视觉基准 — NielsRogge · 2026-11-08
- 世界模型开源许可乱象:权重开放但解码器禁商用致整体不可用 — prateekj · 2026-11-08
- Gemini 不收 pptx 文件,NotebookLM 却可以,用户困惑 — Pearl_Jam_ · 2026-11-08
- giffmana 质疑缩放论文零节省:无缩放趋势也无 FLOPs 对齐 — giffmana · 2026-11-08
- MaxxBench 遭批:刻意混淆刷榜与模型真实适应能力 — teortaxesTex · 2026-11-08
- 爆料称 OpenAI 直到全新预训练完成后才发布 GPT-6 Astra — haider1 · 2026-11-08