IFM开源K2-Horizon-MoVA:36B参数仅激活4B,支持512K上下文

jacek2023 · reddit · 2026-09-03

IFM 发布 K2-Horizon-MoVA-36B-A4B 的 GGUF 最终版,这是 K2-Horizon 家族的稀疏成员:结合 MoE 与「Mixture-of-Values」注意力机制(MoVA),总参数 36B、每 token 仅激活 4B。

亮点:

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →