LeCun 团队推 LeVJEPA,视频训练算力最高降 20 倍
TheTuringPost · x · 2026-08-30
Yann LeCun 团队提出 LeVJEPA,旨在降低视频训练的成本与复杂度。该架构仅需单个编码器和小型投影头,无需复杂的非对称结构或像素重建。其核心机制是对同一视频片段的全局与局部视图进行不变性学习,并利用 SIGReg 防止表征坍塌。通过随机丢弃 95% 的视频 patch,配合因果注意力机制,LeVJEPA 在匹配训练轮次和数据的情况下,相比 V-JEPA 2 节省了 5.6 到 20.8 倍的计算资源,且性能保持竞争力。
所属事件:LeCun 团队发布 LeVJEPA,视频预训练算力最高降 20 倍(6 条相关)→
「研究」频道最新
- 伯克利团队用扩散模型直接采样机器人策略权重,Unitree G1 真机走跑起舞 — berkeley_ai · 2026-10-16
- HKU 等提出 OneWM:统一因果训练让世界模型与动作学习互相增益 — IAAI233 · 2026-10-16
- 百度提出 Virtual Head Attention:同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- 5.8M 参数语音事件检测器:为 Whisper 转录补上笑声呼吸与背景音 — Ayush Kumar Bar · 2026-10-16
- 华为等提出 SUPRA-Tex:单图生成可重打光 3D 材质,所见即所得 — Chen Yang · 2026-10-16
- RoboVista 机器人理解基准发布:Gemini-4 Argon 81.9% 登顶 — berkeley_ai · 2026-10-16