K2 Horizon 开源 13 万亿 token 预训练数据与后训练管线

IFM(K2 团队)宣布开放 K2 Horizon 模型的预训练数据与后训练数据生成管线，号称迄今最详尽的开源 LLM 数据发布。预训练部分包含 13 万亿 token，覆盖 5 个数据集、24 个子集，另有超 10 万亿 token 规模的合成数据管线一并开源，为社区复现和研究大模型训练提供了完整参考。

2026-10-24 ~ 2026-10-24 · 2 条相关

• K2 Horizon 开放 13 万亿 token 预训练数据与后训练数据管线 — ChengleiSi · 2026-10-24

另有 1 条近重复转述:SinclairWang1