字节CoRT:优化GRPO的Token级信用分配
ByteDance · hf · 2026-07-30
字节跳动提出 CoRT(反事实重放) 方法,用于优化基于评分规则(Rubric)的 GRPO 强化学习流程。
- 痛点:在 GRPO 流水线中,结构化的评判通常被简化为标量奖励,并均匀分配给所有生成的 Token,缺乏响应内部的信用分配机制。
- 方法:CoRT 通过“反事实重放”对同一采样响应分别在带规则和不带规则的提示下重新评分,利用 Token 级对数似然对比作为依赖关系的代理,重新分配 GRPO 优势。
- 效果:无需引入辅助评分模型,在多数对比中优于标准的响应级 GRPO,平均提升 4.4 个百分点,同时保持了 GRPO 的简单性和稳定性。
所属事件:字节提出CoRT优化大模型强化学习信用分配(2 条相关)→
「研究」频道最新
- MIT FutureTech 主任 Neil Thompson:AI 先接管任务再取代岗位 — bigdata · 2026-10-16
- 马里兰大学提出 PAIR 框架,用桥接 token 打通 VLA 感知与动作 — Kaixi Feng · 2026-10-16
- CI-MSE 离线指标与机器人真机成功率相关性达 -0.87,远超原始 MSE — chris_j_paxton · 2026-10-16
- Colossal 用 AI 破译灭绝渡渡鸟基因开关,复活计划再进一步 — castrotech · 2026-10-16
- Colossal Biosciences 用 AI 寻找基因开关,推进渡渡鸟复活计划 — castrotech · 2026-10-16
- Cheng Lou 开源 Handwired:手写权重把代码变成零训练神经网络 — dotey · 2026-10-16