llama.cpp 新增 Kimi-K3 文本模型本地推理支持
ilintar · reddit · 2026-07-28
这条帖子在说 llama.cpp 新增了对 Kimi-K3 text model 的支持，并等人实际完成转换、跑通模型来验证是否可用。
配图是 GitHub 上 ggml-org/llama.cpp 的提交页，标题直接写着 model: add Kimi-K3 text model，显示这次改动涉及 17 个文件、新增 1303 行、删除 27 行，说明它不是简单的示例补丁，而是实打实把模型接入本地推理栈。
「Infra」频道最新
- SovereignAI 称 Qwen3.5-397B 仅用 45 万美元算力逼近 Opus 4.8 — schwarzjn_ · 2026-07-28
- Together AI 称 Kimi K3 面向长程工具型智能体任务 — togethercompute · 2026-07-28
- 季度增长压力下，云和 AI 价格可能继续上行 — DavidLinthicum · 2026-07-28
- 推理算力成本持续骤降，AI 安全论坛警告「氛围黑客」威胁 — joshua_saxe · 2026-07-28
- Kimi K3 在 OpenRouter 上吞吐升至 49 tok/s — cedric_chee · 2026-07-28
- 有人直言向量嵌入数据库潮流正在伤害搜索 — davidmanheim · 2026-07-28