专题 · FULL STORY

LeJEPA 之争：Berton 质疑，LeCun 两度下场回应

自监督图像学习方法 LeJEPA 引发争论，研究者 Berton 称带 JEPA 的模型通常表现不佳并质疑规模化路线，LeCun 亲自下场回应，随后又发长文澄清 JEPA 与 DINO 的技术关系与本质区别，争论逐步聚焦于重建与联合嵌入架构之争。

2026-11-07 ~ 2026-11-08 · 2 集 · 9 条

第 1 集 · LeJEPA 效果之争：Berton 质疑规模化，LeCun 亲自下场回应(2026-11-07,7 条)

一场围绕自监督图像学习方法 LeJEPA 的争论在 AI 研究社区发酵：研究者 Gabriele Berton 公开表示，标题带 JEPA 的模型通常表现不佳，LeJEPA 实际效果远不如 DINO，论文漂亮、数学华丽但结果不行，唯一可能的例外是 Meta 的 V-JEPA 2.1。该讨论引来 Yann LeCun 的关注与交锋：LeCun 承认 JEPA 是宽泛概念，但否认「效果差」的指责，认为那是拿不可比的东西硬比，并以 transformer 从提出到 ChatGPT 也等了五年为例，为其辩护。这场交锋成为 AI 圈一次小型论战。

已确认

  • Berton 与谷歌 DeepMind 研究员 Luca Eyre（giffmana）均指出，现有对比并不公平：LeJEPA 公开权重仅在 ImageNet-1k 或 21k 上训练，而 DINO v2 用了 140M 高分辨率图像数据，双方没有证据对齐。
  • @SimonGoodman 汇报了重新调参后的公平比较：LeJEPA 仍不如 JEM；从算力等价曲线看 LeJEPA 已明显进入平台期，不改配方很难再提升。Berton 进一步认为 LeJEPA 比 JEM 更早进入平台期。
  • Berton 强调 JEPA 是个很宽泛的词，目前没有任何证据表明该方法能良好扩展到大数据集；giffmana 亦表示未见 LeJEPA 在大数据集上的 scaling 证据。
  • 被引用的法国博士生猜测，其导师在论文里使用 JEPA 一词，可能是希望获得 LeCun 的转发。

为什么重要

  • 这场争论直指 JEPA 路线（LeCun 力推的世界模型方向之一）在规模化上的实际证据问题：如果在小规模 ImageNet 上都无法稳定超越 DINO、JEM 等基线，其大数据集前景令人担忧。
  • LeCun 的回应则提示，新方法的潜力可能需要更长时间才能显现，transformer 到 ChatGPT 之间相隔五年即是先例，短期基准对比未必能定论。
  • 公平对比方法论（算力等价、调参一致）也因这次讨论被强调，提醒社区在解读新方法论文时需关注实验设置是否对等。

第 2 集 · LeCun 发长文澄清 JEPA 与 DINO 技术关系(2026-11-08,2 条)

针对外界围绕 JEPA 的争论，Yann LeCun 发长文澄清技术要点：图像/视频自监督学习方法的本质区别在于是否使用重建，联合嵌入架构可有可无预测模块；DINO 本质上也是一种 JEPA，而多数 JEPA 论文只是其微调变体。他还强调 Meta FAIR 相关基础研究远早于规模化应用，以此回应外界对其研究路线的讨论。