UIUC与哈佛提出探索式建模：生成模型迎来第三根可扩展轴

机器之心 · wechat · 2026-08-01

UIUC与哈佛大学的研究者提出Explorative Modeling（XM）范式，旨在解决生成模型中的暴露偏差和mode模糊问题。核心机制是在每个训练步生成K个候选，只选择最接近真实数据的那个进行训练，从而在不拆分生成过程的情况下放大生成表达力。实验表明，该方法在图像、视频、语言模态上均带来性能提升，且收益随规模增长而增加：数据规模增长时增益从7%升至36%，模型增大时从13%升至23%，算力翻三倍时效率增益翻倍。探索还提升了FLOP效率4.1倍、样本效率6.2倍、参数效率47%。在机器人控制任务中，端到端的XM模型仅需一次前向即可媲美需要100次前向的DiffusionPolicy。作者认为，随着规模扩大，探索将成为新的扩展轴。