llama.cpp 合并 Granite SWA 与 MoE 新模型支持
jacek2023 · reddit · 2026-08-20
llama.cpp 项目合并了一个新的 Pull Request,增加了对 GraniteSWAForCausalLM 和 GraniteMoeSWAForCausalLM 模型的支持。这意味着用户未来可以在该推理框架中运行这些新架构的 IBM Granite 模型。
「Infra」频道最新
- AI 建设致磷化铟价格暴涨,光传输基板短缺 — pstAsiatech · 2026-08-20
- Jane Street 态度大转弯:因智能体编码开始重视形式化方法 — PtrPomorski · 2026-08-20
- 上海发布五年规划:2030 年关键行业区块链全覆盖 — pstAsiatech · 2026-08-20
- 手机端持续学习:Online-SDFT 自蒸馏方法 — burny_tech · 2026-08-20
- 工程师必看:ASML 光刻机纪录片推荐 — Hesamation · 2026-08-20
- 算力拆解实测:Spark 加速 Prefill,Mac 加速 Decode — toptickcrypto · 2026-08-20