llama.cpp 合入 Kimi K3.1 Pro 支持,本地跑大模型成真
jacek2023 · reddit · 2026-11-07
llama.cpp 收到 PR #31779(已合入),为 Moonshot 新发布的 Kimi K3.1 Pro 添加文本模型支持,权重已上架 Hugging Face(moonshotai/Kimi-K3.1-Pro)。这意味着用户可以尝试在本地硬件上运行这个超大参数模型——发帖人自嘲「祝你好运」,暗示其对消费级设备内存要求极高。PR 涉及 15 个文件、919 行新增代码,由 usrlocalben 提交。
「Infra」频道最新
- macOS CI 每分钟 $0.16,一台 Mac Mini 10 天回本:CI 定价或暴跌 50% — gajesh · 2026-11-07
- 马斯克公布 Terafab 芯片工厂:目标年产 1TW 算力并上太空 — elonmusk · 2026-11-07
- Musk 描绘太空超智能蓝图:SpaceX 拟每年向轨道部署多达 1 太瓦算力 — XFreeze · 2026-11-07
- Darkbloom 用 Mac 农场跑 CI:成本降 50%、性能提升至 2 倍 — gajesh · 2026-11-07
- Groq 启动新一轮融资,投前估值达 80 亿美元 — nmasc_ · 2026-11-07
- 曝英伟达要求东南亚云伙伴客户接入 AI 芯片位置追踪计划 — nmasc_ · 2026-11-07