OpenBMB 开源 1T+ token 高质量网页数据集 Ultra-FineWeb-L1
zibuyu9 · x · 2026-08-21
OpenBMB 发布 Ultra-FineWeb-L1，这是一个包含 1T+ tokens 的高质量英文网页语料库。该数据集基于 Common Crawl 最新快照（CC-MAIN-2025-51），包含约 11.4 亿份文档。它通过精细的处理管线（文本提取、语言过滤、去重、敏感字段替换等）构建，旨在作为 UltraData 管理框架中的 L1 过滤层，提升 LLM 预训练的数据质量。
所属事件:OpenBMB开源超万亿token英文网页数据集Ultra-FineWeb-L1(2 条相关)→
「Infra」频道最新
- 算力换税收：数据中心能否覆盖全镇房产税？ — inductionheads · 2026-08-21
- 民调显示美国人对数据中心反感超煤电厂 — Polymarket · 2026-08-21
- AI 数据中心排队太久，直接自建燃气发电绕过电网 — shensi · 2026-08-21
- Unsloth 动态 V3 量化实测：Q3 性能优于 Q4 且体积更小 — danielhanchen · 2026-08-21
- VC 新趋势：自建 GPU 集群以成本价服务被投公司 — beffjezos · 2026-08-21
- 异构计算系统实测：新硬件组合击败前沿模型 — ShahabBakht · 2026-08-21