高通 NeurIPS 论文：用 Leech 格向量量化压缩 LLM，端侧推理无需码本
HowDevelop · x · 2026-11-07
高通研究团队在 NeurIPS 2026 发表论文《Leech Lattice Vector Quantization for Efficient LLM Compression》。标量量化受信息论下界约束，向量量化（VQ）通过联合编码参数块可突破限制，但通常需要昂贵查找表或显式码本。论文引入 24 维 Leech 格——已知具有最优球堆积与 kissing 配置的最高维格——用于 LLM 量化，主要贡献包括：
- 基于 Golay 扩码构造扩展搜索算法，支持索引化，可在不物化码本的情况下与比特串互转；
- 支持 Leech 格壳并集上的角度搜索；
- 提出完全可并行的反量化 kernel；
- 给出 shape–gain 量化与 GPTQ 式 Hessian 校正结合的几何重新解释：尺度校正相当于向球面乘积的拉回，得到主要作用于方向的 Spherical GPTQ。
- 实验发现低角度失真的 LLVQ 降低了对 Hadamard/旋转预处理的敏感性，实现了无需 Hadamard 的强 PTQ 方案，面向端侧推理。
「Infra」频道最新
- 开源 Terrarium：用带显式权限的本地 VM 沙箱跑 AI Agent — v_0009 · 2026-11-07
- DeepSeek 频繁宕机引关注,分析师称需数十万张推理 GPU — teortaxesTex · 2026-11-07
- 开源项目 BUI 抠出 Blender GPU UI 内核：内存仅 18MB、冷启动 12ms — Obijuan_cube · 2026-11-07
- TSMC 展示 BEOL 内存计算:0.75V 运行、读写周期 <8ns — Terminator857 · 2026-11-07
- 数据中心背锅？PJM 上半年电价上涨主因是电价本身涨 47.7% — kimmonismus · 2026-11-07
- Box CEO：长时运行 Agent 将重塑数据中心地理布局 — inductionheads · 2026-11-07