The Stack v3 成最大开源代码数据集:114TB、5T tokens
anton_lozhkov · x · 2026-07-24
The Stack v3 发布,号称是目前最大的开放代码数据集,用于训练和分析的开源语料库进一步扩容。
- 规模上,v3 原始数据达到 114 TB,处理后约 15.9 TB,去重和过滤后约 5T tokens。
- 覆盖 770 种语言、2.24 亿个仓库,并明确不包含限制性许可证代码。
- 相比 v2,v3 不仅纳入了更多近两年的开源代码,还修复了 v2 去重中的一个 bug。
- 文中还提到不同语言的占比明显变化,比如 C++、TypeScript、Rust、Python,以及连 COBOL 的覆盖都更高了。
所属事件:Hugging Face 发布 The Stack v3:114TB 史上最大开源代码数据集(13 条相关)→
「研究」频道最新
- 剑桥等机构论文揭露图软提示的 token collapse 病态行为 — Sapienza · 2026-10-27
- Mathathon 2.0 启动:与陶哲轩 SAIR 合作,团队获 150 万美元算力 — _sathvikr · 2026-10-27
- 推友提出「甜课程」真实存在:两类 ML 问题应分而治之 — mike64_t · 2026-10-27
- PixGR:像素空间生成式解码加速前馈 3D 高斯重建 — kwangmoo_yi · 2026-10-27
- UniAction 统一动作条件框架:单一世界模型驱动多种动作类型 — ZeYanjie · 2026-10-27
- Infini-AI Lab 开源 Hermit:让 agent 从经验中进化出好习惯 — BeidiChen · 2026-10-27