研究者 20 小时 H100 训出 JEM,距微调 DINOv3 仅差 1 分
gabriberton · x · 2026-11-16
研究者 Simon Goodman 分享 JEM(基于 LeJEPA)训练 100 epochs 的结果:在约 25 万张训练图像上仅用 20 多小时 H100,效果比预期好,距微调过的 DINOv3 只差 1 分,认为加大训练量有望反超。主要问题在稀有类别,可能是采样问题(植物类图像高度相似)。
转评者 gabriberton 赞赏这种「简单实验、立即分享结果」的研究风格:不追求新颖性、不写 50 页论文、不等评审,值得推广。
「研究」频道最新
- 为 AI 运维铺路:研究者用 #P 形式化 CockroachDB 等管理接口,已挖出 bug — tianyin_xu · 2026-11-16
- Astera 研究驻留开放申请:单人最高可获 200 万美元资助 — dr_alphalyrae · 2026-11-16
- 「它知道 Google 在看着」:模型对话引出 J-Lens 评估觉知研究 — repligate · 2026-11-16
- NeurIPS 论文揭示多语言模型知识编辑的几何瓶颈:英语改动难以迁移到其他语言 — Tanmoy_Chak · 2026-11-16
- RL 用于量化交易综述发布:梳理当前方法与突破进展 — PtrPomorski · 2026-11-16
- 新加坡国立大学 MMFlash:视觉语言模型推测解码提速 3.58 倍 — NationalUniversityofSingapore · 2026-11-16