Liquid 释出 QAD 量化模型，4-bit 精度达 97%
helloiamleonie · x · 2026-08-19
Liquid AI 发布了使用量化感知蒸馏 (QAD) 训练的新 4-bit 检查点，适用于 LFM2.5 系列 (230M 至 2.6B)。
技术细节：
- QAD 将高精度教师模型蒸馏为量化学生模型，以恢复因量化损失的精度。
- 新检查点保持了 Q40 格式的低内存占用和高解码吞吐量。
- 四个模型的平均精度恢复至 BF16 版本的约 97%。
开发者可直接替换现有的 Q40 GGUF 文件以获得更好的性能表现。
所属事件:Liquid AI 推出量化感知蒸馏技术，4-bit 模型保留 97% 性能(4 条相关)→
「Infra」频道最新
- 旧金山办「算力交易大厅」：买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16