LFM3-1.7B 量化实测:3.6 GB 显存近无损,2.2 GB 轻度降质
crusaderky · reddit · 2026-11-03
Reddit 用户发布了 LiquidAI LFM3-1.7B 的详细量化评测报告(含 KL 散度散点图与可交互 HTML 图表)。按官方基准,该模型全面超过 MiniCPM5-2B,同时上下文长度翻倍、显存占用减半:准无损量化约 3.6 GiB,而同类模型需 7.1 GiB;压缩到 2.2 GB 时仅有轻度的质量下降。
报告给出各量化档位(Q4Q8)在显存-失真曲线上的最优点位,原始数据与图表全部公开在 GitHub 仓库 pixi-llm-recipes 中,适合想在低显存设备本地部署小模型的人参考。
「模型」频道最新
- Zyphra 提出树形索引稀疏注意力 ZHA, attention 复杂度降至亚二次 — yacineMTB · 2026-11-03
- MIT 研究：GPT-6 直接改权重，Qwen3.5-0.8B 数学成绩提升 6 倍 — KyeGomezB · 2026-11-03
- LiquidAI LFM3-1.7B 登顶 HF 趋势榜：5 天 1k 星、42.4k 下载 — maximelabonne · 2026-11-03
- Gemini 又现出圈回复,研究者感叹「对齐很复杂」 — vedantmisra · 2026-11-03
- Domingos 一句话观点：人类比 AI 更耐数据 — pmddomingos · 2026-11-03
- OpenAI:ChatGPT 中类搜索查询量约为谷歌的五分之一 — firstadopter · 2026-11-03