开源 xLLM 训练框架:改数据配比不重建数据集,H200 上达 10050 tokens/s
HongyiWang10 · x · 2026-09-29
IFM AI 发布开源训练基础设施 xLLM,面向稠密与 MoE 大模型的预训练和微调。核心卖点是「灵活性不减吞吐」:tokenizer、数据配比、模型架构、训练阶段都可中途更换,无需重建数据集或系统。
性能数据:H200 上 K2-Horizon-MoVA-36B-A4B 达 6295 tokens/s/GPU,Llama3-8B 达 10050 tokens/s/GPU。随附 K2 Horizon 的 checkpoint、训练日志与完整 recipe。
所属事件:IFM Lab 开源 xLLM 训练库,tokenizer 与数据配比可热切换(2 条相关)→
「Infra」频道最新
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16
- 博主测算:Colossus 2 的 120 万块 B200 年推理产出可达 4000 亿美元 — bookwormengr · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16