自由形式偏好:多维度机器人监督方法
chelseabfinn · x · 2026-07-03
作者介绍「自由形式偏好」(freeform preferences)方法:让监督者先定义相关评估维度,再沿这些维度给出偏好。维度既可以是固定评分标准,也可以是自然语言描述。这种方式消除了歧义,能全面覆盖各维度,并提供更密集的监督信号(配方法示意图)。该推文为其奖励模型研究线程的核心方法说明。
「研究」频道最新
- CoreWeave 三周 RL 后训练:BrowseComp 提升 22.9%,工具调用省三成 — RichardSocher · 2026-10-27
- 开源决策模型打《红色警戒2》:先卖基地后自瞄自炸,训练后无人能敌 — heathercmiller · 2026-10-27
- DeepMind 论文:LLM 无法自行随机采样,需外部传入随机数 — rohanpaul_ai · 2026-10-27
- 世界模型新玩法:物体赋重量摩擦系数,物理引擎推演机器人动作 — jonstephens85 · 2026-10-27
- 剑桥等机构论文揭露图软提示的 token collapse 病态行为 — Sapienza · 2026-10-27
- Mathathon 2.0 启动:与陶哲轩 SAIR 合作,团队获 150 万美元算力 — _sathvikr · 2026-10-27