探索式建模:开辟第三预训练轴,最高提升 6 倍采样效率

_akhaliq · x · 2026-08-01

论文提出了探索式建模这一全新生成模型范式,可作为现有模型预训练的“第三轴”,并支持端到端生成。

实验表明,增加探索度能在图像、视频和语言任务上单调提升模型性能,且收益随规模扩大而增加(数据规模提升 7%→36%,参数规模提升 13%→23%)。

具体而言,该模型(XMs)实现了 6.2 倍的采样效率、4.1 倍的 FLOP 效率以及 47% 的参数效率提升。在控制任务上,它能媲美扩散模型,且推理计算量最多可减少至后者的 1/256。

所属事件:探索式建模开辟预训练第三轴,被指重造avataRL轮子(8 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →