bartowski 上线 GGUF 逐张量布局新方案,本地量化格式再升级
pmttyji · reddit · 2026-09-12
知名量化上传者 bartowski 宣布其 GGUF 量化模型更新为 per-tensor layout(逐张量布局映射)版本,并同步发布博客文章《Per-tensor layout maps for GGUF quantization》与 Reddit 讨论帖说明新张量类型布局的细节。这是本地 LLM 社区在量化格式组织方式上的最新实践,对自行部署量化工件的开发者有直接参考价值。
所属事件:bartowski 推出 GGUF 逐张量布局新方案，测试全面超越旧版(3 条相关)→
「Infra」频道最新
- 研究者为 SGLang 写 200+ 条属性约束，找出 10 个推理缺陷 — LingmingZhang · 2026-10-31
- 闭门夜话:AI 时代数据库与队列等经典基建更重要而非更次要 — graceisford · 2026-10-31
- Lux Capital 牵头闭门夜话:Cognition 与 Modal 谈 AI 基建与安全 — graceisford · 2026-10-31
- FastVideo 适配 DGX Spark：aarch64 + CUDA 13 无 wheel 也能装 — victormustar · 2026-10-31
- 客户要 P 核:Intel 把 18A 产能转往 Intel 3 扩产 Granite Rapids — zephyr_z9 · 2026-10-31
- Modal 推出 Sticky Sessions:无服务器容器也能保住会话状态 — graceisford · 2026-10-31