Yann LeCun 团队发布 LeVJEPA,视频训练算力降超 20 倍
TheTuringPost · x · 2026-08-29
Yann LeCun 等人提出 LeVJEPA,扩展 LeJEPA 至视频领域,旨在简化视频表征学习。该方法仅需一个编码器和小投影头,通过 SIGReg 防止表征坍塌。
核心机制:
- 对同一视频片段创建全局与局部视图,训练模型识别不同视图的相同表征。
- 训练时随机丢弃 95% 的视频 patch,大幅降低算力成本。
- 时间维度采用因果注意力,支持流式视频与连续世界模型更新。
结果: 在匹配训练轮次下,LeVJEPA 达到或超越 V-JEPA 2 的性能,且仅需 5.6x–20.8x 的训练算力。
所属事件:LeCun 团队发布 LeVJEPA,视频预训练算力最高降 20 倍(6 条相关)→
「研究」频道最新
- Halcyon:0.52B 参数省 18 倍算力超越 LlamaGen-XL/8 文生图基线 — JosephJacks_ · 2026-10-16
- GPT-6.1 审查 arXiv:6% 论文主定理有错,近两月降至 1.5% — nitarshan · 2026-10-16
- 研究:一个 just 之差就能改变 LLM 对话的走向 — StellaLisy · 2026-10-16
- SEAR 首次大规模对照研究:7 个前沿 LLM、330 项任务检验自进化机器人 — xiye_nlp · 2026-10-16
- Claude 助力连破椭圆曲线纪录后,EC Rank 挑战赛开放 156 个纪录位 — Jsevillamol · 2026-10-16
- 用超声替代胎儿 MRI,牛津团队做产前大脑 AI 建模 — AnnaCiaunica · 2026-10-16