286GB 数据实测:Polars 2.0 过滤速度胜过 DuckDB 2.0
本月双双发布 2.0 版本的 DuckDB 与 Polars 迎来正面实测对比。作者在 Hugging Face Jobs 上用默认参数,对 286GB(9700 万行)的 FineWeb-Edu 数据集按教育分数与长度进行过滤。结果显示 Polars 2.0 过滤速度快于 DuckDB 2.0,但在小内存环境下 Polars 会直接 OOM。实测附完整账单,为选型提供了参考。
2026-10-22 ~ 2026-10-22 · 2 条相关
- 286GB 数据过滤实测:Polars 快于 DuckDB,但小内存下直接 OOM — vanstriendaniel · 2026-10-22
另有 1 条近重复转述:vanstriendaniel