bitsandbytes2 略延期：懒压缩逼近无限 KV cache

Tim Dettmers 宣布原定本周发布的 bitsandbytes2 略有延期，将作为其开源周的一部分推出，并同时放出整套开源生态。核心亮点是零配置的懒压缩：用户部署任何模型时无需任何设置，即可自动获得近乎最优的显存-质量-速度平衡，配合动态专家换入机制，实现接近无限的 KV cache。

2026-09-22 ~ 2026-09-22 · 2 条相关

• bitsandbytes2 略延期:零操作"懒压缩"加动态专家换入,逼近无限 KV cache — Tim_Dettmers · 2026-09-22
• Dettmers 预告 bitsandbytes2:懒压缩实现近无限 KV cache — Tim_Dettmers · 2026-09-22