Liquid LFM3-1.7B 实测：小模型长上下文表现超预期
mumblerit · reddit · 2026-11-01
Reddit 用户分享 Liquid 的 LFM3-1.7B 本地实测：Q80 GGUF 配 llama.cpp（ROCm），在 Strix Halo 核显上达到约 4.1k t/s prefill 和约 78 t/s decode；用 7900 XTX + XT 双卡张量拆分可提升到约 7.1k / 151 t/s。最令人惊喜的是它在 32k-64k 长提示下依然保持相当的连贯性，超出对 1.7B 小模型的预期，作者认为适合压缩和摘要类任务。
「Infra」频道最新
- Wan 2.2 视频中途变色?作者用 AMD 单卡跑 MV 沉淀一批踩坑修复 — wilppuse · 2026-11-02
- Chamath:电力是 AI 的终极约束，超大规模厂商最有优势 — BenBajarin · 2026-11-02
- Drex 2.0 量化版跑在 Mac 上：21GB 权重、113ms 出一次决策 — testingcatalog · 2026-11-02
- 2008 年没人信 AWS，分析师回怼 AI 数据中心泡沫论 — BenBajarin · 2026-11-02
- 获 1 亿美元 A 轮的 Neolab 反向转租 GPU，算力过剩泡沫现冰山一角 — himanshustwts · 2026-11-02
- 《Rampocalypse Now》梗图:内存涨价潮下的 AI 末日想象 — crantob · 2026-11-01