40 亿参数模型拿下 IMO 基准 54%，成本仅为大模型 1/3
SergioPaniego · x · 2026-08-22
一个 40 亿参数的模型在 IMO-ProofBench 上达到了 54% 的准确率，可与比它大 7-50 倍的模型竞争，且每个问题的成本低 3 倍。
核心技术方案：
- 纯后训练：不涉及预训练算力投入。
- 蒸馏 SFT：利用知识蒸馏进行监督微调。
- GRPO：结合评分标准的强化学习优化。
- 推理缓存：利用缓存机制进行测试时的精细化推理。
「模型」频道最新
- Meta 发布 Muse Spark Open:816B 参数开源模型,1M 上下文原生多模态 — IanAndrewsDC · 2026-10-16
- 发布仅 30 分钟,llama.cpp 火速支持 816B 的 Muse Spark Open — ngxson · 2026-10-16
- 美国开源新贵 Muse Spark 对比 Qwen/GLM:综合指数领先但 Agent 任务落后 — zsakib_ · 2026-10-16
- Muse Spark 816B 发布仅 30 分钟,llama.cpp 即完成支持 — ngxson · 2026-10-16
- 24 个 AI 系统开处方检查：平均 314 美元/次，是医生的 3.2 倍 — dvir_a · 2026-10-16
- 最快的 GPU kernel 会被 AI 写出来吗?发帖人称验证条件近乎完美 — fleetwood___ · 2026-10-16