llama.cpp 合并 Granite SWA 与 MoE 新模型支持

jacek2023 · reddit · 2026-08-20

llama.cpp 项目合并了一个新的 Pull Request,增加了对 GraniteSWAForCausalLM 和 GraniteMoeSWAForCausalLM 模型的支持。这意味着用户未来可以在该推理框架中运行这些新架构的 IBM Granite 模型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →