双曲空间数学推理新法LaPha
jiqizhixin · x · 2026-07-13
上海 AI for Science 团队及合作方提出 **LaPha**:一种在 **Poincaré 双曲潜空间** 中训练数学推理代理的方法。 ### 核心思路 - 把搜索过程建模成一棵在双曲几何中“向外生长”的树,利用空间随半径指数增长的特性展开探索。 - 基于与“规则验证正确性”的测地距离,给出**密集过程奖励**,帮助代理更稳定地学习推理轨迹。 - 额外接入一个轻量 **value head**,让模型在测试阶段进行自我引导式的搜索扩展。 ### 效果 - 将 **Qwen2.5-Math-1.5B** 在 **MATH500** 上从 **66.0%** 提升到 **88.2%**。 - 使用 value-head-guided search 后,**LaPha-1.5B** 在 **AIME'24** 上达到 **56.7%**。 - **LaPha-7B** 在 **AIME'24** 达到 **60.0%**,在 **AIME'25** 达到 **53.3%**。 帖子还提到另一篇论文 **T\\*: Progressive Block Scaling for Masked Diffusion Language Models Through Trajectory Aware Reinforcement Learning**,并附有论文与解读链接。