AdvancedMathBench：高阶数学证明基准
internlm · hf · 2026-07-14
作者提出 AdvancedMathBench，用于评估大模型在高阶数学证明生成与验证上的能力。现有数学基准主要停留在高中/竞赛题，且往往只看最终答案，难以衡量证明过程是否真的有效，因此这个基准试图补齐“高阶数学推理”和“证明验证”两块。
基准组成
- ProverBench：296 道题，覆盖本科到博士资格考试级别
- VerifierBench：888 条模型生成的证明轨迹，配有人类专家真值，用来评估模型能否判断证明是否成立并给出合理解释
- 还构建了一个基于大规模专家标注训练的自动验证管线，可输出正确性判断和细粒度错误分析，并且与人类专家在留出集上有较强一致性
结果
实验显示该基准对前沿模型仍然很难：
- 最佳模型在证明生成上，UGD 和 QE 切分分别只有 75.8 和 66.1
- 证明验证上最佳 Balanced F1 只有 65.1
- 模型整体的 true negative rate 偏低，说明“识别错误证明”仍然是明显瓶颈
「研究」频道最新
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- OpenAI 基金会资助 UNC 肿瘤抗原研究，招聘资深实验科学家 — iskander · 2026-10-27
- 研究者定向干预注意力头：向上提升诚实，向下压制道德虚无 — edelwax · 2026-10-27
- 研究表明神经元足以做电路分析，transcoder 增益有限 — burny_tech · 2026-10-27
- EMNLP 论文 GENIE:细粒度度量 LLM 故事的「新意」究竟在哪 — gregd_nlp · 2026-10-27
- hash n-gram 值嵌入助力 12×1024 GPT 刷新 30M 纪录至 3.2115 — RobertTLange · 2026-10-27