IFM Lab 开源 xLLM 训练库,tokenizer 与数据配比可热切换

IFM Lab 发布开源训练库 xLLM,面向稠密与 MoE 大模型的预训练和微调,主打灵活的在线数据 pipeline:tokenizer、chat template、数据配比、模型架构和训练阶段均可在训练过程中随时调整,改配比无需重建数据集,千行 Jinja 模板也不用重跑,同时保持高吞吐,在 H200 上达到 10050 tokens/s。

2026-09-29 ~ 2026-09-29 · 2 条相关