量化版 Kimi K3 已在 Hugging Face 提供 GGUF
victormustar · x · 2026-07-29
Kimi K3 的量化版本现在已经可以通过 Unsloth 在 Hugging Face 上获取。
配图里的模型卡显示这是一个 GGUF 包，重点信息包括：
- 2.8T 参数
- 提供多种量化方案，包括 1-bit、2-bit、4-bit、8-bit 版本
- 标注了不同量化方案对应的硬件兼容性和显存需求
这条信息主要价值在于：让更多人能在较低内存环境中部署和运行该模型。
所属事件:Unsloth 推出 Kimi K3 量化版：最高 1.5TB 可本地运行(4 条相关)→
「模型」频道最新
- Anthropic 据称已从 UI 中移除 reasoning traces — RileyRalmuto · 2026-07-29
- Pangram获新融资，发布更强AI文本与图像检测模型 — deedydas · 2026-07-29
- 辟谣：网传 Seedance 2.5 视频实为 2.0 旧版素材 — toolstelegraph · 2026-07-29
- Olmo 3 讲座拆解 DPO、数据难题与研究落地 — natolambert · 2026-07-29
- Google DeepMind 招聘 Gemini 长上下文与记忆研究员 — LucaAmb · 2026-07-29
- Macaron-V1-Tall 在 Hugging Face 模型榜走红 — mindlab-research · 2026-07-29