bartowski 上线 GGUF 逐张量布局新方案,本地量化格式再升级
pmttyji · reddit · 2026-09-12
知名量化上传者 bartowski 宣布其 GGUF 量化模型更新为 per-tensor layout(逐张量布局映射)版本,并同步发布博客文章《Per-tensor layout maps for GGUF quantization》与 Reddit 讨论帖说明新张量类型布局的细节。这是本地 LLM 社区在量化格式组织方式上的最新实践,对自行部署量化工件的开发者有直接参考价值。
所属事件:bartowski 推出 GGUF 逐张量布局新方案，测试全面超越旧版(3 条相关)→
「Infra」频道最新
- 新研究：LLM 强化学习训练可弃用 AdamW,标准 SGD 同样有效 — zhaoran_wang · 2026-09-14
- RTX 5090 现货几近断货，价格或将进一步失控 — DustNearby2848 · 2026-09-14
- OneLA 共享线性注意力状态,生成式推荐大束搜索解码提速 1.54-2.46 倍 — _reachsumit · 2026-09-14
- 优必选万台级人形机器人工厂投产，蔚山AI数据中心扩至900兆瓦 — 创业邦 · 2026-09-14
- 深度长文拆解 HBM:热梯度是堆叠式显存扩展的头号难题 — blaizedsouza · 2026-09-14
- Perplexity 推出 Hybrid Compute:任务在云端与 Mac 本地间分流 — Aiden_Tech_Ai · 2026-09-14