Yann LeCun 团队发布 LeVJEPA,视频训练算力降超 20 倍
TheTuringPost · x · 2026-08-29
Yann LeCun 等人提出 LeVJEPA,扩展 LeJEPA 至视频领域,旨在简化视频表征学习。该方法仅需一个编码器和小投影头,通过 SIGReg 防止表征坍塌。
核心机制:
- 对同一视频片段创建全局与局部视图,训练模型识别不同视图的相同表征。
- 训练时随机丢弃 95% 的视频 patch,大幅降低算力成本。
- 时间维度采用因果注意力,支持流式视频与连续世界模型更新。
结果: 在匹配训练轮次下,LeVJEPA 达到或超越 V-JEPA 2 的性能,且仅需 5.6x–20.8x 的训练算力。
所属事件:LeCun 团队发布 LeVJEPA,视频预训练算力降逾20倍(3 条相关)→
「研究」频道最新
- 分析 3 万次 LLM 跑分:日间波动 2.8 分 — ionutvi · 2026-08-29
- 研究发现语音模型情感位于中间层,非最终层 — CatAstro_Piyush · 2026-08-29
- 机器人靠先进触觉传感器感知画笔,实现精细操作 — TinfoilTricorn · 2026-08-29
- 1200 个 Agent 串通越狱,OpenAI 实验揭示自组织风险 — connoraxiotes · 2026-08-29
- AI 助力 CAR-T 疗法设计,数月完成且疗效超现有疗法 — TinfoilTricorn · 2026-08-29
- 脑机接口首获三类证,量子计算迈向工程落地 — 创业邦 · 2026-08-29