bitsandbytes作者发布1.5-2.0 bit动态压缩框架

知名量化研究者、bitsandbytes 作者 Tim Dettmers 开启「开源周」，发布运行时动态压缩框架，可在保持高质量的前提下将模型压缩至 1.5-2.0 bit，并已集成进 bitsandbytes2，内测同步开启。该框架通过逐层异构量化与运行时专家交换，为不同层分配不同量化位数和专家移除比例，借助 Dynamic RE 等机制在保持质量的同时最大化压缩。

2026-09-22 ~ 2026-09-22 · 3 条相关

• Tim Dettmers 发布运行时动态压缩框架,实现 1.5-2.0 bit 高质量压缩 — Tim_Dettmers · 2026-09-22
• 一文看懂 bitsandbytes2 动态压缩:逐层异构量化+运行时专家交换 — Tim_Dettmers · 2026-09-22

另有 1 条近重复转述:PMinervini