bartowski 为 GGUF 量化模型设计新张量布局，测试全面优于旧版
noneabove1182 · reddit · 2026-09-11
知名量化模型发布者 bartowski 发文介绍其针对 GGUF 上传的新研究：为量化模型设计 per-tensor 布局映射（per-tensor layout maps），改变模型张量的组织形状。
他表示不吹「帕累托前沿」或「世界第一」，但测试显示新形状在各方面都优于此前发布的版本，且仍在继续改进。详细研究见其 Hugging Face 博客文章，发布者欢迎提问。
所属事件:bartowski 为 GGUF 量化模型设计新张量布局，测试全面占优(2 条相关)→
「Infra」频道最新
- NVIDIA BioNeMo 推理运行时开公测:CUDA 内核加速蛋白质结构预测 — AllThingsApx · 2026-09-11
- NVIDIA 开源 BioNeMo 推理运行时,蛋白结构预测吞吐提升 2.9 倍 — AllThingsApx · 2026-09-11
- NVIDIA BioNeMo 推理运行时开启公测,Boltz-2 等模型推理提速 — AllThingsApx · 2026-09-11
- Apex 开源推理加速方案:通用加速结构化模型的关键发布 — AllThingsApx · 2026-09-11
- NVIDIA 单季数据中心营收 890 亿美元,算力不能再当 IT 开支看 — PeterDiamandis · 2026-09-11
- 实验室 Xeon 跑 DeepSeek V4.1,CPU 纯 CPU 推理项目开源 — Qwen30bEnjoyer · 2026-09-11