三值分解替代量化的尝试
LMTLS5 · reddit · 2026-07-16
这条帖子的核心是一个新论文：作者尝试用 **ternary decomposition** 替代传统量化。 ### 主要结论 - 这个方法的表现**和 q4km 相当**。 - 代价是**显存略高**。 - 但它的优点是： - **完全 ternary**，不是常见的量化路线； - **完全 PTQ**，不需要 QAT。 帖子里给了论文链接，说明这是一个偏研究向的实证结果，重点在于：在不做量化感知训练的前提下，三值分解也能做到接近低比特量化的效果。