开发者将AI9Stars G9v3-39A5B量化至GGUF并创建llama.cpp分支支持
linuxid10t · reddit · 2026-08-15
Reddit用户linuxid10t将AI9Stars的G9v3-39A5B模型量化为GGUF格式,并创建了一个llama.cpp的分支以支持该模型。该工作可能提升模型在本地部署的效率和兼容性。
「Infra」频道最新
- OpenAI新模型Cerebras实测:速度提升近7倍 — haider1 · 2026-08-15
- 构建磁盘优先的 ComfyUI 长视频管线 — sugar_shak · 2026-08-15
- 三大 AI 爬虫 30 天抓取 1150 次 robots.txt — dejanseo · 2026-08-15
- Google Cloud C4N 网络性能实测:单核近 600 万包/秒 — HankYeomans · 2026-08-15
- Scale 创始人王亚历山大:数据是 AI 的隐形天花板 — r0ck3t23 · 2026-08-15
- 工具推荐:检测你的设备能运行哪些本地 AI — AIFlow_ML · 2026-08-15