bartowski 推出 GGUF 逐张量布局新方案,测试全面超越旧版

知名 GGUF 量化模型发布者 bartowski 在 Hugging Face 发表博客,提出针对 llama.cpp GGUF 量化的新方案「per-tensor layout maps」(逐张量布局映射),通过按张量分配位宽改进量化模型的上传与存储布局。其已将发布的 GGUF 量化模型更新为该布局版本,并附博客文章详解设计思路。据其公布的测试结果,新布局在各项测试中全面优于旧版本,标志着本地量化模型格式的进一步升级。

2026-09-11 ~ 2026-09-12 · 3 条相关