新线程解谜 JEPA 类方法为何抗干扰：预测模型的可识别性理论
hisspikeness · x · 2026-10-08
一条关于潜空间预测(JEPA、CPC、SimCLR)的理论线程：这些方法在光照、视角、背景多变的杂乱数据上表现很好，通常解释是「能忽略干扰变量」，但这背后藏着一个悖论——信号本身也是随机的，如何区分可预测信号与干扰。线程随后给出理论分析（两个机制协同：预测性互信息最大化+潜分布匹配，高斯情形可证恢复到仿射映射）并在 MuJoCo hopper 上验证。
所属事件:理论证明预测式自监督学习可在干扰下分离随机信号(8 条相关)→
「研究」频道最新
- 训练别人写的 Agent：如何驾驭非自建 harness 的强化学习 — SergioPaniego · 2026-10-08
- 研究者指控 AI 实验室夸大:520 个证明无一有 Lean 形式化 — gerardsans · 2026-10-08
- 第三方检测器复测 NeurIPS 论文 AI 检测：两工具结果分歧明显 — AltruisticCouple3491 · 2026-10-08
- 烧掉 3000 亿 token 毫无突破，内部模型 3 小时破局 — burny_tech · 2026-10-08
- NVIDIA UNREAL 论文:让 LLM 自主检索,30 亿 token 语料召回率大涨 — mark_k · 2026-10-08
- NAMVIS：自回归替代扩散做稀疏视图多视图合成，快 3 倍 — Ramil Khafizov · 2026-10-08