HF 存储靠 Xet 去重:同样文件比其他云文件系统省 80% 空间

lhoestq · x · 2026-10-22

Hugging Face 工程师补充 DuckDB hf:// 扩展背后的存储细节:HF Buckets 以 Xet 为核心构建,全局依靠去重(deduplication)实现约 80% 的存储节省,同一文件在 HF 上占用的空间小于任何其他文件系统/云存储——这也是 DuckDB 直连 HF 有性能优势的原因之一。

所属事件:Hugging Face 推 DuckDB 2.0 扩展可 SQL 直读数据集(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →