Prime Values:开放版价值函数基础设施

_AndrewZhao · x · 2026-07-19

这是一个围绕 **value function** 的开源训练基础设施介绍。作者说,前沿实验室已经普遍在用 value functions,但开放生态里还缺少好用的基础设施,于是他们在 `prime-rl` 之上做了 **Prime Values**。 核心特性包括: - 清晰、可拆分、可 hack 的抽象层 - **异步**的 value trainer / evaluator 节点,避免 trainer 成为瓶颈 - 原生 value warmup 支持 - 流式 replay buffer,利用 value model 对“更旧数据/复用”更高容忍度 作者还声称,默认配置在单轮和多轮任务上,已经能与或优于 mean-baseline GRPO。

原文链接 →