JOLT 对比 GRPO:单次尝试只给一个奖励,看不到步骤贡献
perplexity_ai · x · 2026-10-22
Perplexity 用对比解释 JOLT 的切入点。
- GRPO 这类 RL 方法每次尝试只产生一个标量奖励，无法指示哪些具体步骤起了作用。
- 自蒸馏则引入老师给出的逐 token 反馈：同一模型共享权重，老师拿到验证解答等额外信息，学生没有，评估时只看学生。
所属事件:Perplexity 发布 JOLT 后训练法，五项基准全胜 GRPO(4 条相关)→
「研究」频道最新
- 深度长文:RL 训练跑在异构硬件上,Bundle Blackwell 训练 + TPU 推理要解决什么 — A_K_Nain · 2026-10-22
- Long Now 首批 Labs 获奖名单公布:含一个「LLM 热力学时钟」实验 — begusgasper · 2026-10-22
- 普林斯顿招募“自然与人工心智”AI 博士后，2月28日截止 — LakeBrenden · 2026-10-22
- ESMFold2 API 上线 max accuracy 模式补齐单序列精度短板 — proteinrosh · 2026-10-22
- OpenTac 团队将亮相 CoRL，现场演示触觉传感器并小规模赠送 — anand_bhattad · 2026-10-22
- Marathon Fusion 称聚变堆可年产 5 吨黄金：汞变金方案公布 — clarejtbirch · 2026-10-22