Meta 提出自监督新框架 JEM,数据量仅 1/12 超越 DINOv3
iScienceLuvr · x · 2026-10-26
Meta FAIR 研究者发布论文《Scalable Patch-Level Self-Supervised Learning》,提出一个简洁但原理清晰的自监督学习框架 JEM,关注度不高但结果亮眼。
核心方法
- 从多视角假设出发,以信息论视角导出目标函数:学生-教师网络跨视角对齐 patch 级表征;
- 加入两个显式正则项:信息最大化防止表征塌缩、结构保持损失保留特征空间结构;
- 无需多目标组合和额外稳定化技巧,训练稳定。
关键结果
- 首次将潜空间 patch 级方法扩展到 7B 参数规模(300M→7B 稳定扩展);
- 在语义分割、全景分割等密集任务上一致超越 DINOv2 基线;
- 7B 规模下,训练数据仅 DINOv3 的 1/12、且无精炼阶段,全景分割仍超过 DINOv3;
- 图像级分类保持与最强模型竞争力。
所属事件:Meta 发布自监督框架 JEM，小数据量超越 DINOv3(2 条相关)→
「研究」频道最新
- HiP3R 开源:局部重建拼接实现千帧长视频3D场景一致性 — ccloy · 2026-10-26
- AlphaFold 数据集攒了 50 年，细胞模拟远未解决 — shae_mcl · 2026-10-26
- ThousandML 开源 4-bit CQ 量化微调:验证损失比 Unsloth 低 17.4% — textclf · 2026-10-26
- Mira Murati 挑战「模拟生物学离不开实验」论,学界掀激辩 — anshulkundaje · 2026-10-26
- Morgan Levine 撰文:理解生命需要超越人类直觉的多尺度视角 — DrMorganLevine · 2026-10-26
- 南大发布 Omni-Woodpecker：免训练修正全模态大模型跨模态幻觉 — nanjinguniv · 2026-10-26