109M text-JEPA 零配对基准 64% 准确率,胜过 8B LLM 的 56%
randall_balestr · x · 2026-10-30
线程另一条关键结果:在 Phillip Isola 团队最新的 pair-free(零图文对)基准上,109M 参数的 text-JEPA 以 64% 对 56% 的 ImageNet100 准确率,击败了该基准上所有已报告的、参数量至 8B 的 LLM 零样本结果——且全程未使用任何图文配对数据。配图为论文 Table 4 的完整对比数据。
所属事件:柏拉图表示假说成定理:JEPA 小模型胜大 LLM(12 条相关)→
「研究」频道最新
- ENCODE ChIP-seq 模型按原样提供:底层数据差则模型也差 — jmschreiber91 · 2026-10-31
- 当模型「意见不合」:可及性无信号但 TF 模型显示结合位点被破坏 — jmschreiber91 · 2026-10-31
- Whole-Body Dexterity:把人形机器人全身变成灵巧操作器 — chris_j_paxton · 2026-10-31
- TF 结合模型配合 CATv1 染色质模型,直接解读变异对结合位点的影响 — jmschreiber91 · 2026-10-31
- 整数分解复杂度纪录获 Lean 形式化验证 — basedjensen · 2026-10-31
- BPNet 与 Cherimoya 擅长校正开放染色质混淆,基因模型对比有实例 — anshulkundaje · 2026-10-31