IFM开源K2-Horizon-MoVA:36B参数仅激活4B,支持512K上下文
jacek2023 · reddit · 2026-09-03
IFM 发布 K2-Horizon-MoVA-36B-A4B 的 GGUF 最终版,这是 K2-Horizon 家族的稀疏成员:结合 MoE 与「Mixture-of-Values」注意力机制(MoVA),总参数 36B、每 token 仅激活 4B。
亮点:
- 基准成绩:在 agentic 与推理基准上超过约 30B 的开源稠密模型以及 15 倍于其体量的 MoE 模型,并可与闭源前沿模型竞争。
- 512K 原生上下文:从中期训练阶段起即支持 524,288 token。
- 完全开源:训练数据/配方与训练代码都将公开,并释放中间 checkpoint,方便研究能力随训练过程的演化。
「模型」频道最新
- Muse Spark 1.3发布引关注,网友提醒别错过 — D3VAUX · 2026-09-03
- xAI 疑似密测 750tps 新模型 Sol,或与 Astra 同日上线 — koltregaskes · 2026-09-03
- 微软发布 MAI-Transcribe-2:WER 2.0% 居第二,411 倍实时仅 $1.67/千分钟 — ArtificialAnlys · 2026-09-03
- Claude Fable 5.1达SimpleBench 86.6%,首超人类基线 — Profanion · 2026-09-03
- Grok 大面积宕机,Grok 疑似全线下线 — ns123abc · 2026-09-03
- ifm.ai 发布 K2 Horizon:主打前沿性能与彻底开源 — Few_Painter_5588 · 2026-09-03