Contrastive World Models：用互信息目标替代像素重建训练世界模型
bonniesjli · x · 2026-09-26
研究者 bonniesjli 介绍 Contrastive World Models（CWM）：不做像素预测，纯在潜空间中构建世界模型，用 Deep InfoMax 目标最大化潜状态与未来观测局部特征之间的互信息，完全去掉解码器。
小规模实验结果：
- 默认设置下，CWM 与像素重建和动量预测基线持平；
- 一旦引入干扰物（distractors）或自然视频背景，CWM 显著优于两者；
- 移除像素解码器后训练效率更高，表征更鲁棒。
这是世界模型训练目标设计上的一次有意思的替代方案探索。
所属事件:Contrastive World Models 不靠像素重建训练世界模型(3 条相关)→
「研究」频道最新
- 针对 Yann 自回归误差论证的隐藏假设,博主引技术讨论 — teortaxesTex · 2026-09-26
- 新论文尝试关联 Orch OR 与微管共振理论 — anirbanbandyo · 2026-09-26
- Claude 算出九圈散射振幅,物理学家 Lance Dixon 亲自验证 — EricBuess · 2026-09-26
- 开源 4B 决策模型 Mica 玩俄罗斯方块完胜同规格对手 — Top-Evidence174 · 2026-09-26
- 被 AI 抢发论文：物理学家团队称成果遭 Anthropic 撞车 — soumitrashukla9 · 2026-09-26
- 4B 模型零文本生成，23 步在 Minecraft 里摸到铁镐 — Top-Evidence174 · 2026-09-26