Kimi-K3 权重上架 Hugging Face，GGUF 版可直接本地运行
MaziyarPanahi · x · 2026-08-04
Kimi-K3 权重已上 Hugging Face，本地还能用 GGUF 跑起来
帖子说明 moonshotai/Kimi-K3 的权重已经开放到 Hugging Face，同时 Unsloth 也提供了对应的 GGUF 版本，方便本地部署。
- 量化版本从 UD-IQ1S 到 UD-Q8KXL 都有。
- 可以直接配合 llama.cpp 在本机运行。
- 选择哪种量化，主要看自己的 RAM 能装下多少。
- 配图展示的是 unsloth/Kimi-K3-GGUF 的模型卡。
- 回复里还提到一个“Jellyfish eval”例子：模型一次流式输出了 6522 字符的 canvas 代码。
「模型」频道最新
- 阿里通义发布 Qwen3.8-Max，主打编程协作 — ccerrato147 · 2026-08-04
- MiniMax H3 在 RTX 3060 上卡死 Ubuntu，关闭 pinned memory 可解 — Able-Instruction1009 · 2026-08-04
- DeepMind 为何没再领跑数学基准，Reddit 讨论原因 — Full_Tangelo_7450 · 2026-08-04
- DeepSeek V4 Flash 0731 在 llama.cpp speculative decoding 里报 ctx_other 错 — Ambitious_Fold_2874 · 2026-08-04
- trydecideAI 完成 Dax-1 训练，主打确定性表格编辑 — saheedniyi_02 · 2026-08-04
- Kimi K3 在 69 项编码测试中领先，但 ML 流程错误仍常见 — mariofilhoml · 2026-08-04