Liquid AI 2.6B 模型实测:端侧跑速达 90t/s,工具调用翻车
curiousily_ · reddit · 2026-08-06
开发者在 M5 Pro 上使用 llama.cpp 实测了 Liquid AI 推出的 LFM2.5(2.6B 稠密模型)。在 Q8 量化下,该模型跑出了约 90 tokens/s 的速度,内存占用仅约 4GB,展现了优秀的端侧部署效率。
然而,在智能体任务(工具调用和推理)的实测中,LFM2.5 表现不佳。与官方基准测试中的竞争对手——Q4 量化的 Qwen3.5 4B 相比,LFM2.5 在工具调用方面严重落后。在 OpenCode 环境中,它不仅难以正确发起工具调用,甚至对当前工作目录的认知也存在明显混乱。
所属事件:Liquid AI 2.6B模型端侧实测:工具调用追平DeepSeek且快3.7倍(3 条相关)→
「编程与Agent」频道最新
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- 开发者分享给电脑上的 Agent 划权限:能读能写,发删买一律先问人 — No_Fan5310 · 2026-10-16
- 开发者用GPT写出unifi-simulator,让MikroTik交换机伪装进UniFi网络拓扑 — Pytlicek · 2026-10-16
- 斯坦福 45 分钟课拆解 Grok Bot:always-on agent 的 harness 工程 — Hesamation · 2026-10-16
- Opus 5.5 + Three.js 打造水波鱼群樱花互动场景,美到刷屏 — nikola_mr64990 · 2026-10-16
- 用 Grok 搭建线性回归交易系统,125 天在 Polymarket 赚 50 万美元 — Roger_M_Taylor · 2026-10-16