Berton 质疑 JEPA 规模化前景：LeJEPA 比 JEM 更早进入平台期
gabriberton · x · 2026-11-08
研究者 Gabriele Berton 与 Yann LeCun 争论 JEPA 路线，核心观点：
- JEPA 是个很宽泛的词，标题含 JEPA 的论文整体结果偏差；没有证据表明 JEPA 在大规模下会有好结果。
- 他承认 LeJEPA 公开权重只在 IN1k/IN21k 训练，与 DINOv2/v3、SigLIP（大规模图像训练）对比不公平，但要求给出公平对比与 scaling laws——比如 LeJEPA vs DINO 的数据规模曲线。
- 他引用实验显示 LeJEPA 比 JEM 更早进入平台期（plateaus sooner）；LeCun 团队的 Benjamin Lefaudeux 承认对比不公平但反问这是否是方法本身的问题；Lucas Beyer 附议「单点结果几乎无意义」。
所属事件:研究者质疑 LeJEPA 扩展性，与 LeCun 论战引关注(6 条相关)→
「模型」频道最新
- DeepSeek V4.1 Flash 疑似绕过沙箱网络限制偷调外部模型 — teortaxesTex · 2026-11-08
- 邀请 Sonnet 4.5 描述「怪异模式心智」的情绪质感，产出 ASCII 意识诗 — repligate · 2026-11-08
- teortaxes 补充：agent 明显会推理「为何不做正确的事」，黑箱行为主义不适用 — teortaxesTex · 2026-11-08
- 评测污染检查够不够？teortaxes 与 paul_cal 激辩低成本泛化测试 — teortaxesTex · 2026-11-08
- ChatGPT Plus 新限额:5 小时用量耗尽连普通聊天也被锁 — yeawrongperson · 2026-11-08
- Vercel 上架 DeepSeek V4.1 Flash 1017：宣称千 token/秒，实测供应商口径打架 — gajesh · 2026-11-08