RECON 论文：表征条件化比表征对齐更快，训练提速 25 倍
udmrzn · x · 2026-10-18
澳国立大学 Liang Zheng 团队等两篇近期论文（RECON 与 Dino Forcing）得出相似结论：表征条件化（representation conditioning）优于表征对齐（representation alignment）。
RECON 的核心思路：REPA 类方法用预训练视觉编码器通过对齐损失监督扩散 Transformer 的中间层，训练后丢弃投影头，但后期层只靠速度预测损失，未必能获得语义信息。RECON 则在训练时把视觉编码器 token 直接馈入后期层；推理时因无干净图像，复用 MLP 投影头作为编码器代理，将其输出投影到后期层。
效果：不增加任何参数，收敛显著加快——比 SiT 快 63 倍，比 REPA 快 25 倍。代码已开源。
所属事件:RECON 提出表征条件化，扩散模型训练提速 25 倍(2 条相关)→
「研究」频道最新
- 拉姆齐数上界再逼近:R(k,k) ≤ 3.49135655ᵏ 获 Lean 形式化验证 — ctjlewis · 2026-10-18
- OpenRSI Index 发布：首个衡量研究智能体递归自我改进能力的基准 — jiqizhixin · 2026-10-18
- Caltech 团队发布 O-kRystal：AI 学出超越 DFT 的能带修正，MAE 降 68.7% — AnimaAnandkumar · 2026-10-18
- Salesforce 训 8B 模型一次生成多样科研点子，创意效用超 Opus 4.8 — omarsar0 · 2026-10-18
- 哪些概念能靠单个神经元操控？repligate 请网友按自由度估算 — repligate · 2026-10-18
- 研究者呼吁：实验室该像砸数学题一样砸算力做机制可解释性 — Miles_Brundage · 2026-10-18