QQWorld：用量化匹配解决世界模型潜在分布重尾偏差
Zhoushun Yu · hf · 2026-08-03
针对潜在世界模型在正则化过程中因使用 EP 目标函数导致对尾部样本修正梯度消失的问题，研究者提出了 QQWorld。
该方法用量化-量化匹配目标替代 EP，直接将投影的潜在样本与排名匹配的高斯分位数对齐，从而在尾部保持有效的修正梯度。此外，还开发了跨批次 QQ 方法，利用历史批次的样本来扩大有效排名池，并分析了其偏差-方差权衡。
在四个控制环境中的实验表明，QQWorld 能有效提升 LeWM 的平均规划成功率，并产生更好的高斯对齐和更薄的潜在尾部。
「研究」频道最新
- 别盲信跑分：专家警告大模型评测工具差异会严重扭曲成绩 — cedric_chee · 2026-08-03
- 为每个蛋白质设计结合剂：Human Bindome 开源 — jajoosam · 2026-08-03
- CriPO：基于自蒸馏的强化学习新方法，算力减半 — Mingxuan Xia · 2026-08-03
- 视频生成新思路：transition-factorized LAM论文更新 — ceciletamura · 2026-08-03
- 探讨LLM在文献检索中的幻觉风险与局限 — deliprao · 2026-08-03
- AI独立推导广义相对论并解决数学难题 — elonmusk · 2026-08-03