Kimi K3 GGUF IQ1_S 上线，1bit 和 2bit 适配同步推进
victormustar · x · 2026-07-28
Hugging Face 上出现了 Kimi K3 的 GGUF IQ1S 版本，发布者同时在推进 2bit 修正 和 1bit 公开。
帖里还说明，要在 llama.cpp 里跑起来，仍然需要先修好并合并一个相关 PR；也就是说，模型量化文件已经在路上，但本地推理适配还卡在上游补丁。
「Infra」频道最新
- Nebius 推出本地 relay，把四种编程 Agent 接到开放模型 — HowDevelop · 2026-07-28
- GLM-5.2 已能在戴尔工作站本地跑到 40 tokens/s — pcuenq · 2026-07-28
- 黎曼流形上的二阶泰勒展开与 Hessian 定义 — FrnkNlsn · 2026-07-28
- Advantest 前景要看 Teradyne、TSMC 和 AI 测试链 — tengyanAI · 2026-07-28
- Teradyne 电话会将验证 AI 测试需求是否仍吃紧 — tengyanAI · 2026-07-28
- 铟磷化合物短缺加剧，VCSEL 扩产成关键变量 — zephyr_z9 · 2026-07-28