Zyphra 开源 CPU 数据去重工具 PUFFER,提速 35 倍

bclavie · x · 2026-09-02

Zyphra Research 发布了用于 LLM 规模数据集的新型增量模糊去重系统 PUFFER。该系统完全在 CPU 上运行,相比现有方法实现了 11-35 倍的加速。Zyphra 已将其用于内部训练数据集,并以 Apache 2.0 许可证开源。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →