IFM 发布 K2 Horizon:新 MoVA 架构,0.9B 到 375B 全量开源
solyarisoftware · x · 2026-09-04
IFM 发布 K2 Horizon 系列,共六个模型,从 0.9B 到 375B,号称年度最值得关注的开放本地模型发布。
- 旗舰 36B-A4B:36B 总参数,每 token 仅激活约 4B,原生 512K 上下文,含编码与 agentic 训练,GGUF 陆续上线
- 新架构 MoVA(Mixture-of-Value Attention):普通 MoE 只把 FFN 做稀疏,MoVA 把专家路由引入注意力层,官方称效果接近其 dense 32B 模型
- 全量开放:权重、训练数据与配方、训练代码、中间 checkpoint、细粒度训练日志、agentic 后训练配方,Apache 2.0
- 全尺寸覆盖:0.9B 面向手表/眼镜,3.7B 面向手机,7B 面向本地 agent
所属事件:MBZUAI 发布 K2 Horizon 六款全开源模型(30 条相关)→
「模型」频道最新
- DeepSeek V4.1 去审查版登 HuggingFace 热榜,FP8 量化支持视觉推理 — dealignai · 2026-10-20
- Reddit 用户截图实锤:ChatGPT 选 GPT-5.6 High 后端却偷换成 GPT-6 中档 — DepositameAMiBCP · 2026-10-20
- MiniMax M3.1 Flash 上线 Command Code:1M 上下文限时免费 — MiniMax_AI · 2026-10-20
- 用户控诉小米 MiMo 订阅难以取消,$60 套餐找不到退订入口 — bookwormengr · 2026-10-20
- Strata 2 beta 推理速度近乎减半?双 4090 用户求助 — Lost-Vermicelli-6252 · 2026-10-20
- Smaug 开源 AI 图像检测器登顶:5% 误报下召回 86.7% — bindureddy · 2026-10-20