HF 存储靠 Xet 去重:同样文件比其他云文件系统省 80% 空间
lhoestq · x · 2026-10-22
Hugging Face 工程师补充 DuckDB hf:// 扩展背后的存储细节:HF Buckets 以 Xet 为核心构建,全局依靠去重(deduplication)实现约 80% 的存储节省,同一文件在 HF 上占用的空间小于任何其他文件系统/云存储——这也是 DuckDB 直连 HF 有性能优势的原因之一。
所属事件:Hugging Face 推 DuckDB 2.0 扩展可 SQL 直读数据集(3 条相关)→
「Infra」频道最新
- HarnessRouter 开源:一套 API 统一调度 Codex 与 Claude Code 等编程智能体 — tom_doerr · 2026-10-23
- 本地 AI 安全清单:Ollama/vLLM/llama.cpp 最低版本与 LiteLLM 供应链恶意软件 — AIFlow_ML · 2026-10-23
- Bonsai 2 9B 社区挑战一周提速 6 倍,Mac 上达 959 tokens/s — gajesh · 2026-10-23
- MCP 7 月 28 日版本实现远程服务器无状态化 — bibryam · 2026-10-23
- MCP 生态大会:AAIF 成员达 305 家,Skills over MCP 等路线图曝光 — bibryam · 2026-10-23
- Fizgig 8.90 发布:多卡联合训练 LoRA,双 4090 提速 40% — shootthesound · 2026-10-23