Liquid AI 推出量化感知蒸馏技术，4-bit 模型保留 97% 性能

Liquid AI 发布量化感知蒸馏技术（QAD），通过让模型在训练过程中体验 4-bit 量化误差并由高精度模型指导，推出适用于 LFM2.5 系列（230M 至 2.6B）的新 4-bit 检查点。量化到 Q4 后，模型保留约 97% 的性能，显存占用从 5.4GB 降至 1.6GB（减少 70%），推理速度从 21 tok/s 提升至 64 tok/s，延迟降低 60%，兼顾低内存占用与高效率。

2026-08-19 ~ 2026-08-20 · 4 条相关

• Liquid 释出 QAD 量化模型，4-bit 精度达 97% — helloiamleonie · 2026-08-19
• Liquid AI 发布量化感知蒸馏技术，Q4 模型保留 97% 性能 — alexcovo_eth · 2026-08-20
• LiquidAI 模型量化：显存砍 70% 延迟降 60% — QuixiAI · 2026-08-20

另有 1 条近重复转述:JosephJacks_