bartowski 推出 GGUF 逐张量布局新方案,测试全面超越旧版
知名 GGUF 量化模型发布者 bartowski 在 Hugging Face 发表博客,提出针对 llama.cpp GGUF 量化的新方案「per-tensor layout maps」(逐张量布局映射),通过按张量分配位宽改进量化模型的上传与存储布局。其已将发布的 GGUF 量化模型更新为该布局版本,并附博客文章详解设计思路。据其公布的测试结果,新布局在各项测试中全面优于旧版本,标志着本地量化模型格式的进一步升级。
2026-09-11 ~ 2026-09-12 · 3 条相关
- Bartowski 发文解析 GGUF 量化新方案:按张量布局映射分配位宽 — bartowski1182 · 2026-09-11
- bartowski 为 GGUF 量化模型设计新张量布局,测试全面优于旧版 — noneabove1182 · 2026-09-11
- bartowski 上线 GGUF 逐张量布局新方案,本地量化格式再升级 — pmttyji · 2026-09-12