LiquidAI 推出 QAD 量化技术，4-bit 模型保留 97% 性能
JosephJacks_ · x · 2026-08-20
LiquidAI 发布了针对 LFM2.5 系列模型的更新 4-bit 检查点，使用了量化感知蒸馏 (QAD) 技术。
- 性能表现：在保持 Q40 格式的低内存占用和高解码吞吐量的同时，四个检查点均恢复了约 97% 的 BF16 平均性能。
- 实测体验：开发者分享了运行 2.6B 模型的具体命令 (llama-server)，支持 131k 上下文，参数包括 temp 0.1、top-k 50 等，表示效果良好且资源占用低。
所属事件:Liquid AI 推出量化感知蒸馏技术，4-bit 模型保留 97% 性能(4 条相关)→
「Infra」频道最新
- FT 称 AI 算力债券面临「达尔文时刻」，CoreWeave 债价暴跌 — firstadopter · 2026-10-16
- 手机当界面、家里服务器跑模型:一套本地 AI 双工作流 — EAccelerate_42 · 2026-10-16
- 「数据中心就是银行」:CoreWeave 风波引出算力监管类比 — arthurcolle · 2026-10-16
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16