llama.cpp 发布 v0.9.0,v1.0.0 大版本数周内来袭

llama.cpp 作者 ggerganov 正式发布 v0.9.0,并宣布团队将在未来几周筹备首个大版本 v1.0.0。本次更新聚焦推理侧:新增 OCP FP8 E4M3 量化支持(含饱和模式)、转换辅助函数与新的张量类型,以及 NCCL 多节点张量并行等能力。同时项目拆分了对外账号,将面向用户的应用与开发相关内容分开运营。

2026-11-05 ~ 2026-11-05 · 3 条相关

另有 1 条近重复转述:victormustar