AdvancedMathBench:高阶数学证明基准
internlm · hf · 2026-07-14
作者提出 AdvancedMathBench,用于评估大模型在高阶数学证明生成与验证上的能力。现有数学基准主要停留在高中/竞赛题,且往往只看最终答案,难以衡量证明过程是否真的有效,因此这个基准试图补齐“高阶数学推理”和“证明验证”两块。
基准组成
- ProverBench:296 道题,覆盖本科到博士资格考试级别
- VerifierBench:888 条模型生成的证明轨迹,配有人类专家真值,用来评估模型能否判断证明是否成立并给出合理解释
- 还构建了一个基于大规模专家标注训练的自动验证管线,可输出正确性判断和细粒度错误分析,并且与人类专家在留出集上有较强一致性
结果
实验显示该基准对前沿模型仍然很难:
- 最佳模型在证明生成上,UGD 和 QE 切分分别只有 75.8 和 66.1
- 证明验证上最佳 Balanced F1 只有 65.1
- 模型整体的 true negative rate 偏低,说明“识别错误证明”仍然是明显瓶颈
「研究」频道最新
- Datology Curation Studio 线上深潜:少于 20% 算力匹配最强基线 — josh_wills · 2026-10-27
- KANLab 开源:浏览器里可视化玩转 KAN 网络 — Lukas Niehaus · 2026-10-27
- CMU 提出 LLM2Cert:LLM 生成证书,SMT/Lean 自动验证 — CarnegieMellonU · 2026-10-27
- NVIDIA 开源 FLORA:机器人数据引擎,成本仅 GPT-6 Astra 的 1/125 — nvidia · 2026-10-27
- RSNA 2026 深度学习实验室回归:芝加哥四天八节动手 AI 课 — PRouzrokh · 2026-10-27
- 实验:同时调控两组神经元,模型自行组合出「gnome」概念 — Sauers_ · 2026-10-27