K2-Horizon-7B 完成 8bit 量化，4bit 与显存拯救计划推进中

karminski3 · x · 2026-09-16

社区开发者 @waterluffy 通报对 IFM/K2-Horizon-7B 模型的量化进展：8bit 量化版本已发布到 Hugging Face（IFM/K2-Horizon-7B-FP8），4bit 版本正在赶工，同时还有一个「显存拯救计划」在进行中。评论提到接下来可能做混合注意力（mixed attention）方面的改造，若真做出来社区反应会很热烈。从 HF 页面可见该模型自带较完整的工具调用（tool calling）模板，支持 /xml 等多种 tool call 格式。