pigzpp:C++ 重写实现快 50 倍的全栈并行压缩库
jedisct1 · x · 2026-08-27
论文介绍了 pigzpp,这是一个对广泛部署的 pigz 并行 gzip 工具进行的从零开始的 C++23 重写版本。
- 设计重构:原版 pigz 拥有进程全局可变状态,并非可重入或可直接嵌入的库。pigzpp 将其转变为线程安全库,并暴露一个加速的 DEFLATE 核心。
- 多语言支持:该核心支持 C++、Python、WebAssembly、Go 和 Rust。作为应用级便利工具,它还提供了多入口 ZIP 归档和快速 PNG 编解码器。
- 性能提升:
- 使用便携的 zlib-ng 后端保持 gzip/zlib 的压缩比。
- 使用 Intel ISA-L 后端(仅 x86-64)作为快速路径,虽然在第 6 级别产生约 10% 的更大输出,但在文本语料库测试中,zlib-ng 达到了 pigz CLI 吞吐量的 2.1 倍,Python 内存 gzip 的 16 倍;ISA-L 则分别达到了 8.5 倍和 50 倍。
- 兼容性:输出符合标准,可与 gzip、pigz 和 unzip 跨平台解码。
该项目是一个自包含的多平台压缩栈,也是在自动化兼容性测试下 AI 辅助现代化的案例研究。
所属事件:微软开源 pigzpp:C++23 打造快 50 倍并行压缩工具(2 条相关)→
「Infra」频道最新
- Ramp 融资 18.5 亿美元,估值 600 亿,8.5 万企业月省超 10 亿美元 — SethGRosenberg · 2026-10-15
- GPU 供给过剩论 vs 无限需求:算力泡沫下买市场不买工厂 — bittingthembits · 2026-10-15
- 爆料称英特尔获博通与谷歌代工承诺,14A客户阵容持续扩大 — BenBajarin · 2026-10-15
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 传 Nvidia 本周宣布数百亿美元欧洲 AI 投资 — georgemillo · 2026-10-15
- Cloudflare 一夜 $10,811 账单:退款靠运气,刹车得自己装 — sujingshen · 2026-10-15