专题 · FULL STORY

OmniParseBench:Datalab 自曝家底的新 OCR 基准

Datalab(Marker 作者 Vik Paruchuri 团队)因原有基准饱和且行业刷分乱象频出,发布基于 2343 份文档、16288 项测试的新 OCR 基准 OmniParseBench,并刻意不将自家模型排在榜首,引发社区对公平评测的讨论。

2026-10-10 ~ 2026-10-13 · 2 集 · 11 条

第 1 集 · Datalab 发布 OmniParseBench:16288 项 OCR 测试自曝未登顶(2026-10-10,8 条)

Datalab(Marker 作者 Vik Paruchuri 团队)发布公开 OCR 基准 OmniParseBench:基于 2343 份文档的 2937 页构建 16288 项通过/失败式测试,覆盖 92 种语言,数据与打分代码全部开源,并主动披露自家产品在该基准上并未排名第一。在普遍自夸式的基准发布潮中,这种自曝未登顶的做法颇为少见,也为社区提供了一个可审计、可复现的持续评测标尺。

已确认

  • 基准规模:来自 2343 份文档、2937 页,覆盖 92 种语言,共 16288 项通过/失败测试,打分方式统一、可解释。
  • 构建方式:团队大量借鉴 olmOCR bench(Paruchuri 称其为目前设计最好、最公平一致的 OCR 基准)的方法与测试,在此基础上清理 ground truth、新增高难度用例和新的单元测试类型。
  • 发布动机:团队使用 olmOCR-bench 一年多后认为其已饱和——剩余提升多来自匹配其输出格式而非真正的阅读能力提升。
  • 覆盖场景:手写体、表格、多语言、数学公式、表单等 OCR 边界难点;承诺持续更新测试用例以追踪领域进展。
  • 设计目标:Paruchuri 指出 OCR 评测痛点在于测试集格式约定与模型输出不匹配导致评判不公平,OmniParseBench 旨在让基准本身足以公平评估模型,无需依赖后处理。

为什么重要

  • 通过/失败式打分比模糊评分更可审计,数据与代码开源利于复现。
  • 覆盖手写、公式等长期痛点场景,可作为观察多语言 OCR 进展的持续标尺。
  • 发布方主动披露自家产品未登顶,显著提升了基准的中立性与可信度。

第 2 集 · Datalab 发布公平 OCR 基准 OmniParseBench 并揭示刷分乱象(2026-10-13,3 条)

Datalab(Vik Paruchuri)团队因原有 olmOCR 基准已饱和,发布新 OCR 基准 OmniParseBench,且不将自家模型排在榜首第一。团队还发布一个 650M 参数文档解析模型,仅用 70 步 RL 训练加推理侧小修复(未接触基准文档)便冲上 LlamaIndex ParseBench 第三,证明该榜单可被「对齐刷分」,实际 OCR 能力并未真正提升,只是输出格式更契合评测。