IFM 开源 K2-Horizon:六个模型最大 375B,连训练数据和代码一起放出来

winer666 · reddit · 2026-11-18

MBZUAI 背后的阿布扎比机构 IFM 发布 K2-Horizon:六 个开放模型,从 0.9B dense 到 375B-A23B MoE 旗舰。亮点不在尺寸阶梯,而在开放程度——除权重外还包括预训练语料、分阶段 checkpoint、训练日志、评测代码、xLLM 训练栈和 RL360 后训练代码,自称「glass box, not black box」。四个模型共享 22T token 语料训练,并记录了约 10T 合成预训练 token 的流水线。

论文中的技术点:

注意事项:375B MoE 对多数人是基础设施级新闻而非本地可跑;跑分需独立复测;IFM 位于阿布扎比,部分团队需核查数据驻留与出口合规。支持 vLLM、SGLang、Ollama。作者抛出的问题:连数据和训练代码都放出,会不会改变下一轮前沿模型「开放」的标准?

所属事件:IFM 发布 K2-Horizon:六个全开源模型最大 375B(3 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →