GPTQ-2D:将双侧自适应舍入降至立方级时间复杂度
ISTA-DASLab · hf · 2026-08-04
论文提出了 GPTQ-2D 算法,解决了矩阵量化中双侧自适应舍入的计算复杂度问题。
- 背景:GPTQ 等自适应舍入方法在二次度量下将实矩阵舍入为整数。当扩展到双侧任务(即在残差左右两侧均作用非奇异基矩阵)时,传统一维算法虽可应用,但时间复杂度会飙升至矩阵维度的四次方。
- 突破:GPTQ-2D 算法能够在立方时间内产生相同的舍入矩阵。它按反对角线依次处理条目,由于同一反对角线上的条目相互独立,因此可以进行并行计算,大幅提升了量化效率。
「Infra」频道最新
- RTX 3060 勇闯 MiniMax-H3:5秒视频渲染耗时4分钟 — Robert_Brown_7425 · 2026-08-04
- 双卡 GH200 跑 DSv4-Flash:优化后吞吐破万 — Reddactor · 2026-08-04
- RTX 5090跑图实测:百万像素21:9视频4分钟生成 — AdmirablePainting368 · 2026-08-04
- 彭博:长鑫存储预计年底小量生产先进 LPDDR6 芯片 — AIFlow_ML · 2026-08-04
- Minimax-H3 多精度量化版登顶 HF 热榜,支持 ComfyUI — Abiray · 2026-08-04
- EasyCache实测:视频生成速度提升超30%且画质更佳 — Oni8932 · 2026-08-04