llama.cpp 发布 1.0.0 破坏性变更,六步迁移检查清单出炉
TheCodingTutor · reddit · 2026-11-16
11 月 13 日 ggml-org 发布 libllama 和 libggml 1.0.0,并确立以主版本号标记 API/ABI 不兼容变更的政策。对于嵌入本地推理的开发者,升级需保证调用代码与部署库一致:API 兼容关乎源码接口,ABI 兼容关乎编译组件协同工作。
作者给出六步迁移检查:
- 从 binding 入手:盘点用到的函数和头文件;此版本移除了 llamasetwarmup,并将 llamasetembdstatesrc 改名为 llamasetctxstatesrc,先检查被移除的 API。
- 固定包输入:记录上游 tag/commit、wrapper 版本与构建 flags,并把模型校验和一并存档。
- 检查实际加载的库:编译后核查应用捆绑或加载器选中的库文件,搜索路径上的旧共享库可能毁掉一次仔细的重建。
- 跑完整生命周期:在每个支持的后端测试模型加载、上下文创建、生成、错误处理与清理,对比相同 prompt 并记录内存、耗时与失败。
- 单独测试 RPC:协议 v9 会拒绝不兼容对端,需分别测试兼容连接与不兼容对的失败行为。
- 保留回滚方案:保存此前兼容的应用、binding 与库包,提前确定哪些失败会阻止上线。
作者注明其运营 Codorc,该指南由 AI 辅助起草并对照维护者来源核对,但未亲自编译或跑分。
「Infra」频道最新
- CBS 报道乌兰察布 AI 数据中心建设潮,规模堪比小城市 — armano · 2026-11-16
- 分析师:中国 AI 优势在开放模型+制造+能源的全栈协同 — ingliguori · 2026-11-16
- 晚点聊嘉宾判断:AI 基建已走完,应用层还早得很 — oran_ge · 2026-11-16
- 美对华芯片管制真实目标:不是拦GPU,而是卡死EUV自主化 — teortaxesTex · 2026-11-16
- 玩家用 DLSS 5 Double Pass + 路径追踪重塑《赛博朋克 2077》画面 — Promptmethus · 2026-11-16
- MMFlash 提出视觉感知投机解码,多模态模型无损加速最高 3.58 倍 — _akhaliq · 2026-11-16