一种更灵活的三值量化新方法
LMTLS5 · reddit · 2026-07-16
这条帖子介绍论文 **ExTernD: Expanded-Rank Ternary Decomposition**，主题是三值量化（ternary PTQ）。 作者的核心观点是：如果固定矩阵规模去做三值后训练量化，路线会走进死胡同；因此他们把矩阵分解成 **两个三值矩阵 + 一个内部对角缩放矩阵**，并且让内部秩可以任意增大。这样一来，量化精度理论上可以持续逼近任意目标，而额外显存开销只比现有量化方法略高。帖子强调，这种“稍多一点显存，换来更好的三值数学性质”的取舍可能是值得的。
所属事件:新研究探索三值分解替代传统模型量化(2 条相关)→
「研究」频道最新
- 按任务路由比单一最佳模型高出 15 个点 — ZainHasan6 · 2026-07-21
- PolicyTrim 让 VLA 机器人少走弯路，执行速度最高提 5.83 倍 — 新智元 · 2026-07-21
- 《黑客帝国》梗回击 LLM 解题争论：信念与资源同样关键 — prasanna_says · 2026-07-21
- 更多算力会显著提升前沿模型的网络攻防表现 — peterwildeford · 2026-07-21
- 论文称随机探索可修复 3DGS 两类优化瓶颈 — zhenjun_zhao · 2026-07-21
- SSR 用稀疏体素迭代细化单目几何 — zhenjun_zhao · 2026-07-21