新研究探索三值分解替代传统模型量化

近期一项名为ExTernD的研究提出利用扩展秩三值分解来替代传统的模型量化方法。该技术聚焦于三值训练后量化,实验表明其表现与目前主流的q4km量化水平相当。这种方法为解决大模型压缩问题提供了一种更为灵活的新思路,展示了三值分解在降低模型体积与计算开销方面的潜力。

2026-07-16 ~ 2026-07-16 · 2 条相关