Kimi K3 GGUF IQ1_S 上线,1bit 和 2bit 适配同步推进
victormustar · x · 2026-07-28
Hugging Face 上出现了 Kimi K3 的 GGUF IQ1S 版本,发布者同时在推进 2bit 修正 和 1bit 公开。
帖里还说明,要在 llama.cpp 里跑起来,仍然需要先修好并合并一个相关 PR;也就是说,模型量化文件已经在路上,但本地推理适配还卡在上游补丁。
所属事件:Kimi K3 GGUF量化版上线,加速本地部署(2 条相关)→
「Infra」频道最新
- Meta Muse Spark 开源版需 493GB 内存,16GB 笔记本根本跑不动 — TejasKumar_ · 2026-10-16
- CoreWeave 三日暴跌 20%,信用市场定价五年内违约概率超 60% — kimmonismus · 2026-10-16
- MiniCPM-V 4.7 端侧跑出 17 tokens/s,iPad 仅需约 3GB 内存 — techNmak · 2026-10-16
- 中国推「代工厂级 token 工厂」,2026-28 行动计划押注 token 经济 — nordicinst · 2026-10-16
- Vercel Sandbox Drives 正式上线:亚秒挂载 TB 级数据 — cramforce · 2026-10-16
- NVIDIA RTX Spark 正式发布,主打 Windows PC 本地跑 AI — ostrisai · 2026-10-16