量化版 Kimi K3 已在 Hugging Face 提供 GGUF
victormustar · x · 2026-07-29
Kimi K3 的量化版本现在已经可以通过 Unsloth 在 Hugging Face 上获取。
配图里的模型卡显示这是一个 GGUF 包，重点信息包括：
- 2.8T 参数
- 提供多种量化方案，包括 1-bit、2-bit、4-bit、8-bit 版本
- 标注了不同量化方案对应的硬件兼容性和显存需求
这条信息主要价值在于：让更多人能在较低内存环境中部署和运行该模型。
所属事件:Unsloth 发布 Kimi K3 量化版，1-bit 压缩至 594GB 保留近 80% 精度(6 条相关)→
「模型」频道最新
- Reflection 首个模型 Beam 上架 HF:501B 参数开源、百万上下文 — tomaarsen · 2026-10-16
- Reflection 发布首个开源权重模型 Beam 1.0,主打编码、推理与智能体任务 — tomaarsen · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16
- JevBench 榜单更新:d1-ultra 以 76.1 综合分登顶,32 个 API 系统参评 — airesearch12 · 2026-10-16
- LMArena 上线 Agent 与代码双排行榜，可对比各模型智能体实力 — arena · 2026-10-16
- NVIDIA Nemotron-3.5 实测遇冷:Bolt 74B 在 pandas/numpy 与决策类测试不及 nano 版 — norenEnmotalen · 2026-10-16