北大开源 RayOrch:数据准备管线最高提速 15.14 倍
PekingUniversity · hf · 2026-09-28
- 北京大学团队发布 RayOrch,一个面向基础模型训练数据准备的编程模型与分布式执行引擎,已开源。
- 核心问题:高质量训练数据管线要把异构文档/视频展开为父子结构记录,现有系统要么把并行性藏在粗粒度作业后面,要么只暴露扁平记录,迫使应用自行管理血缘(lineage)与重分组。
- RayOrch 在执行全程保留父子关系:程序声明有序的变基数扩展与配套 gather,编译器校验配对,运行时记录子项成员、父项、顺序与终态;按 Call 的 FIFO 就绪队列跨父项批处理,Gather 依据声明式成员与序号重建结果;父项在全部所需子项终态后即可推进,类型化的父作用域失败会抑制该父项未调度的兄弟子项而不影响其他父项。
- 性能(在 NVIDIA H20 上):MinerU 管线从 4 卡扩到 64 卡获得 15.14 倍加速;视频管线 8→64 卡获得 7.82 倍加速。端到端耗时对比 Ray Data 与 Daft:MinerU 上分别降低 13.1% 与 29.0%,Docling 上比 Ray Data 降低 16.0%。
- 代码:github.com/OpenDCAI/RayOrch
「Infra」频道最新
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16