Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据

Hugging Face Blog · rss · 2026-10-16

Hugging Face 博客介绍 Indic 语系预训练扩展工作:构建了 2.8 万亿 token 的训练语料,并开源了完整的数据生成管线,覆盖多语言数据的采集、清洗与配比流程,旨在提升印度诸语言模型的预训练质量,为低资源语言的开放预训练提供了可复用的数据基础设施。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →