西安交大提出 QQWorld:大幅提升世界模型规划成功率
机器之心 · wechat · 2026-08-11
针对 Yann LeCun 等人提出的 LeWorldModel (LeWM) 中潜变量分布存在的重尾问题,西安交通大学研究团队提出了 QQWorld 方法。研究发现 LeWM 采用的 EP 正态性目标存在「尾部盲区」,难以纠正远离主体分布的极端潜变量,导致模型在稀疏区域难以学习可靠表征。
QQWorld 采用分位数-分位数匹配(Quantile-Quantile Matching)替换原有的 EP 正则,让每个样本直接向其次序对应的标准高斯分位点移动。这种机制能在分布尾部持续提供有效梯度,核心代码不足 10 行。
实验显示,在多个控制环境中,QQWorld 将平均规划成功率从 79.75% 提升至 85.08%。此外,团队提出的 Cross-Batch QQ 机制通过引入历史批次特征辅助计算,在物理批次缩小至四分之一、显存降低约 73% 的情况下,仍能保持显著优于基线的性能。
「研究」频道最新
- 探究 Claude 与 GPT 的知识截止日期及预训练时间线 — sshh12 · 2026-08-11
- Sakana AI 新研究:用 LLM 智能体自动设计复杂系统动力学 — dair_ai · 2026-08-11
- 物理学家 Matthieu Wyart:深度网络为何能跨越维度诅咒 — Machine Learning Street Talk · 2026-08-11
- MIT 科技评论探讨 LLM 下一代演进:挑战 Transformer 架构的新势力 — volokuleshov · 2026-08-11
- Thrive 研究员分享前沿上下文工程与模型可解释性探讨 — thesephist · 2026-08-11
- 学者吐槽:LLM 正在无情拆解社科实证论文的「数据垃圾」 — RexDouglass · 2026-08-11