LeCun 称拿出「证明」：JEPA 世界模型可用远小于 LLM 的参数学会理解

ylecun · x · 2026-11-04

Yann LeCun 转发并引用了一篇论文，回应关于其立场的争论：LLM 靠积累大量陈述性知识来答题，因此需要海量参数和内存；而 JEPA 世界模型用「理解」取代知识堆积，在表征学习中，只要用 SIGReg/VCReg 等防坍缩准则训练编码器，数据（文本共现、图像物体共存）的底层相似性结构会唯一决定表征点云的形状。这意味着 JEPA 能以远小于 LLM 的内存和训练数据做到有用。一位 Vapnik 学派出身的 PhD 也自述被这篇「证明」说服，从认为神经网络是炼金术转为认同 LeCun 的路线。