IFM发布K2-Horizon-36B-A4B 以4B激活参数比肩大20倍模型

IFM 发布开源模型 K2-Horizonizon-36B-A4B，已上线 Hugging Face。该模型总参数 36B，每 token 仅激活约 4B，搭载全新 MoVA（Mixture-of-Value Attention）架构，在注意力维度开辟了稀疏化的第二轴。它在 Artificial Analysis Intelligence Index 上获得 25 分，以极低的激活参数量和每 token 成本对标参数量大 20 倍的模型，引发社区广泛关注。

2026-09-22 ~ 2026-09-22 · 4 条相关

• IFM 发布 K2-Horizon-36B-A4B:MoVA 新架构以 4B 激活参数对标大 20 倍模型 — victormustar · 2026-09-22
• K2-Horizon-36B 仅 4B 激活参数跑出 25 分,新架构 MoVA 开辟稀疏第二轴 — Aiden_Tech_Ai · 2026-09-22
• MoVA 新架构:仅激活 4B 参数即比肩 20 倍参数量模型 — Aiden_Tech_Ai · 2026-09-22

另有 1 条近重复转述:rupspace