LFM3 1.7B 本地实测：Q8 量化仅 1.7GB,RTX 3090 Ti 跑出 329 tokens/s
Repulsive_Initial308 · reddit · 2026-11-04
一位 Reddit 用户实测 LiquidAI 的 LFM3 1.7B 小模型，结论是「出人意料地能打」。
- 用 llama.cpp 的 Q80 量化版(仅 1.71 GiB)在 RTX 3090 Ti 上测试：pp512 预填充约 20648 tokens/s,tg128 生成约 329 tokens/s,速度相当快。
- 同时试了 2B VL 版本，表现也不错，但上下文长度只有 1.7B 版的一半。
- 作者因此想进一步尝试官方的 omni 模型做视频理解，询问有没有简单方法把视频文件或 YouTube 链接直接丢进对话。
对小模型本地部署感兴趣的读者可以参考这份实测数据。
「模型」频道最新
- axion 1.0 用三阶段炼出 35B 智能体模型：两次轻量 SFT 加 RL — petrusenko_max · 2026-11-04
- 网友吐槽：都说进入 RSI 时代了，前沿模型却要等几周 — iruletheworldmo · 2026-11-04
- DeepSeek v4.1 flash 供应商不足，用户抱怨 Baseten 吞请求 — shensi · 2026-11-04
- 改 0.13% 权重零训练修复 OCR 模型空白页幻觉,榜单从 14 升到 8 — vanstriendaniel · 2026-11-04
- antirez 批评 Astra 论文:游戏任务可从输出偏差直接猜出,且认不出 Cannon — antirez · 2026-11-04
- antirez 复现 MIT 论文：LLM 权重里真有可看见的径向模式 — antirez · 2026-11-04