开发者将AI9Stars G9v3-39A5B量化至GGUF并创建llama.cpp分支支持

linuxid10t · reddit · 2026-08-15

Reddit用户linuxid10t将AI9Stars的G9v3-39A5B模型量化为GGUF格式,并创建了一个llama.cpp的分支以支持该模型。该工作可能提升模型在本地部署的效率和兼容性。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →