探索式建模:开辟第三预训练轴,最高提升 6 倍采样效率
_akhaliq · x · 2026-08-01
论文提出了探索式建模这一全新生成模型范式,可作为现有模型预训练的“第三轴”,并支持端到端生成。
实验表明,增加探索度能在图像、视频和语言任务上单调提升模型性能,且收益随规模扩大而增加(数据规模提升 7%→36%,参数规模提升 13%→23%)。
具体而言,该模型(XMs)实现了 6.2 倍的采样效率、4.1 倍的 FLOP 效率以及 47% 的参数效率提升。在控制任务上,它能媲美扩散模型,且推理计算量最多可减少至后者的 1/256。
所属事件:探索式建模开辟预训练第三轴,被指重造avataRL轮子(8 条相关)→
「研究」频道最新
- 机器人化身科学家:LabEvolver 让实验成功率升至 91% — imjustnewatai · 2026-08-01
- 困扰学者两年的数学猜想,AI 数分钟写出严谨证明 — abeirami · 2026-08-01
- 开发者开源 Bug 搜寻基准:实测大模型查 Bug 能力 — PawelHuryn · 2026-08-01
- AI 制药瓶颈在数据而非模型,行业预期将迎转折 — MatthewMcAteer0 · 2026-08-01
- 研究:科学文献上下文难提升 LLM 行为预测 — duncanjwatts · 2026-08-01
- Bittensor子网Minos联合OpenAI发布基因组AI合成数据生成器 — markjeffrey · 2026-08-01