研究发现多个科学类 LLM 基准答案有错,修正后模型分数显著上升
Profanion · reddit · 2026-09-16
Reddit 用户发现当前许多以科学为主题的 LLM 基准测试中,标准答案本身就存在错误。对这些问题答案进行修正后,各模型的基准得分显著提升。作者附上了 arXiv 论文链接(arXiv:2609.13009)。
这一发现意味着此前多个模型在科学基准上的排名可能低估了真实能力,基准数据质量本身是评测体系中被忽视的变量。对依赖榜单做模型选型的人来说,需要警惕『分数低』未必等于模型差,也可能只是评测集答案有误。
「模型」频道最新
- Similarweb:Claude 升级页流量 9 月回升至 1760 万,逼近 5 月峰值 — firstadopter · 2026-11-02
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- 用户吐槽 OpenAI Dots 越用越臃肿,转投新工具 Muse 称体验干净透明 — Koala_Confused · 2026-11-02
- Fable 5.5 被曝一行代码一次通过生成动画,Anthropic 押注编程意外切入动画赛道 — Hesamation · 2026-11-02
- 一个 agent 目标连续跑了 4 天,烧掉 3 万赠额 token — CtrlAltDwayne · 2026-11-02
- 每日 AI 简报:Gemini 4 Carbon 疑现身 Arena,DeepSeek 开源编码 agent — testingcatalog · 2026-11-02