Contrastive World Models:用互信息目标替代像素重建训练世界模型
bonniesjli · x · 2026-09-26
研究者 bonniesjli 介绍 Contrastive World Models(CWM):不做像素预测,纯在潜空间中构建世界模型,用 Deep InfoMax 目标最大化潜状态与未来观测局部特征之间的互信息,完全去掉解码器。
小规模实验结果:
- 默认设置下,CWM 与像素重建和动量预测基线持平;
- 一旦引入干扰物(distractors)或自然视频背景,CWM 显著优于两者;
- 移除像素解码器后训练效率更高,表征更鲁棒。
这是世界模型训练目标设计上的一次有意思的替代方案探索。
所属事件:Contrastive World Models:纯潜空间训练反超 Dreamer(5 条相关)→
「研究」频道最新
- CoRL 热议「agent 太慢」,研究者拆解出三种截然不同的批评 — tomssilver · 2026-11-11
- 形式化验证让 AI 编码更快:Lean 证明成为 agent 优化护栏 — bigdata · 2026-11-11
- 教授用纯 NumPy 从零搭建交互式神经网络教学笔记本 — GeostatsGuy · 2026-11-11
- 新 benchmark Continual-ARC:主流 agent 都学不会经验,9B 模型微调可以 — Med1_Ai · 2026-11-11
- Science 子刊:好的对话呈现'粉噪'式的语义波动模式 — _akpiper · 2026-11-11
- 研究:近半数 STEM 博士论文用 AI 写,仅 4.7% 主动披露 — paulnovosad · 2026-11-11