Hugging Face datasets 流式近似洗牌性能大幅提升

Hugging Face datasets 库作者 Quentin Lhoest 宣布,数据集流式加载配合近似洗牌(approximate shuffle)获得大幅提速,并感谢 Google Cloud Storage 团队的贡献使这一改进成为可能。该优化将惠及需要在大规模数据集上进行流式训练的用户,提升数据加载效率。

2026-09-07 ~ 2026-09-07 · 2 条相关

另有 1 条近重复转述:lhoestq