Berkeley/Princeton 团队提出首个从离线数据估计 Empowerment 的探索方法
ben_eysenbach · x · 2026-11-05
UC Berkeley 的 Ishir Garg 与 Benjamin Eysenbach、Sergey Levine 等人发布新研究:从离线无标注数据估计 empowerment(智能体可实现未来状态数量的度量),无需任何环境交互。
- 背景:机器人/编码等 agentic 任务常见做法是先用历史数据训练策略,再通过在线 rollout 改进;但如何利用先验数据指导在线探索阶段研究很少
- Empowerment 高的状态需要更多探索(未来可能性更多),但现有估计方法都依赖在线策略 rollout
- 方法:联合学习 empowerment 最大化策略及其折扣状态占用测度,可在任意未知策略生成的无标注轨迹上训练
- 实验显示估计器给出直观的 empowerment 度量,预训练后的估计器可用于改进在线目标条件 RL 的探索
- 论文、代码与项目页均已公开
「具身」频道最新
- 开源机器人布道者将登华沙 Wawtech,目标带软件工程师造出第一台机器人 — kamathsblog · 2026-11-05
- 博士生撰文剖析机器人预训练核心方法 LAM 的现实挑战 — EugeneVinitsky · 2026-11-05
- voxel-based sim2real 方法开发者坦言两大挑战:分辨率与数据 — chris_j_paxton · 2026-11-05
- 旧金山一批人形机器人整机清仓:含多台 Unitree G1/H1 等约 18 台 — cixliv · 2026-11-05
- Nothing CEO:神秘 AI-first 设备下月发布,主打生产力提升 — TechCrunch AI · 2026-11-05
- 新研究:机器人策略预训练越多越可靠,却可能损害后续微调上限 — siddkaramcheti · 2026-11-05