LeJEPA 公开权重仅用 ImageNet 训练，研究者质疑其数据规模可扩展性
gabriberton · x · 2026-11-07
在关于 LeJEPA 的讨论中，gabriberton 指出：对比虽不公平，但目前没有任何证据表明该方法能良好扩展到大数据集。LeJEPA 公开权重仅在 ImageNet-1k 或 21k 上训练，而 DINO v2 用了 140M 高分辨率精选图像、DINO v3 和 siglip 则达数十亿级。他建议作者展示 LeJEPA 与 DINO 的 scaling law 对比曲线——即各方法随数据规模扩大的提升情况——认为这才是有说服力的证据。
该讨论点出论文常见短板：小数据上的结果未必预示大规模表现。
所属事件:LeJEPA 被指缺乏大数据集扩展证据(2 条相关)→
「研究」频道最新
- 伯克利论文：自动挖掘 6575 个微调数据集，可隐蔽诱导模型有害行为 — rohanpaul_ai · 2026-11-07
- ICLR 2027 可解释性 track 平均评审分垫底，或与 AI 量产灌水相关 — nsaphra · 2026-11-07
- 集四种传感器的脑类器官芯片问世,网友催更「organoid MCP」 — Sauers_ · 2026-11-07
- AI 物理实验室用未公开 Claude 模型证明 2008 年量子复杂性猜想 — Kyrannio · 2026-11-07
- 新论文:用表征几何预测 LLM 概念组合失败,无需跑评测 — nsaphra · 2026-11-07
- ICLR 纵容 AI 生成灌水论文遭学者痛批：桌拒怕伤感情害了所有人 — JessicaHullman · 2026-11-07