LatentGRM:潜空间奖励建模,评测轨迹压缩 9 倍、推理提速 7 倍
Mingqing Yuan · hf · 2026-10-12
LatentGRM 提出在潜空间做生成式奖励建模:通过语义分块、压缩与重构,让模型在连续轨迹上自主完成成对判断,无需逐 token 生成文字评估;另有解释器从轨迹重构评估文本以便离线检查。
结果:
- 在 4B 与 8B 规模、同等训练数据与骨干下,偏好判断准确率与显式 SFT judge 相当
- LatentGRM-8B 将评测轨迹压缩 8.9–9.2 倍,vote@5 下总推理时间降低 6.1–7.0 倍
- 对照干预实验证实压缩轨迹确实携带基于评分标准的偏好信息
结论:连续潜空间评估可大幅降低推理成本,同时保持判断质量。
「研究」频道最新
- Frank Nielsen 合作论文获接收:希尔伯特空间高斯测度的几何 JS 散度 — FrnkNlsn · 2026-10-12
- 「每个 query 都有自己的 harness」:一句话点出评测新思路 — amankhan · 2026-10-12
- 中国顶尖数学家集体表态支持 AI 用于数学研究 — scmp_news · 2026-10-12
- Adaption 新研究:agent 生成质检清单清洗训练数据,提升模型胜率 — sarahookr · 2026-10-12
- 让 Opus 读 SIGGRAPH 论文，纯代码造出可逆粒子模拟卡点视频 — ravisparikh · 2026-10-12
- ProgramGym:1648 个可验证环境训练长程程序复现 Agent — ProgramGym · 2026-10-12