预训练新维度：探索性建模大幅提升生成效率
shangbinfeng · x · 2026-08-01
研究团队提出了一种名为「探索性建模」的新方法，通过在训练期间搜索多个生成结果并从中学习最匹配训练样本的生成路径，为生成模型解锁了除数据量和模型大小之外的第三种缩放维度。
- 性能提升：随着计算规模扩大，探索带来的收益也随之增加。在算力增加 3 倍时，性能收益翻倍。
- 效率优化：在接近 SOTA 的基线上，该方法将数据效率提升了 6.2 倍，FLOP 效率提升 4.1 倍，参数效率提升 47%，并在 ImageNet 上取得了 1.43 的无引导 FID 成绩。
- 核心机制：允许模型通过增加训练算力来换取泛化能力的提升。
所属事件:探索式建模开辟预训练第三轴，被指重造avataRL轮子(8 条相关)→
「研究」频道最新
- 机器人化身科学家：LabEvolver 让实验成功率升至 91% — imjustnewatai · 2026-08-01
- 困扰学者两年的数学猜想，AI 数分钟写出严谨证明 — abeirami · 2026-08-01
- 开发者开源 Bug 搜寻基准:实测大模型查 Bug 能力 — PawelHuryn · 2026-08-01
- AI 制药瓶颈在数据而非模型，行业预期将迎转折 — MatthewMcAteer0 · 2026-08-01
- 研究：科学文献上下文难提升 LLM 行为预测 — duncanjwatts · 2026-08-01
- Bittensor子网Minos联合OpenAI发布基因组AI合成数据生成器 — markjeffrey · 2026-08-01