Liquid AI 2.6B 模型实测:端侧跑速达 90t/s,工具调用翻车
curiousily_ · reddit · 2026-08-06
开发者在 M5 Pro 上使用 llama.cpp 实测了 Liquid AI 推出的 LFM2.5(2.6B 稠密模型)。在 Q8 量化下,该模型跑出了约 90 tokens/s 的速度,内存占用仅约 4GB,展现了优秀的端侧部署效率。
然而,在智能体任务(工具调用和推理)的实测中,LFM2.5 表现不佳。与官方基准测试中的竞争对手——Q4 量化的 Qwen3.5 4B 相比,LFM2.5 在工具调用方面严重落后。在 OpenCode 环境中,它不仅难以正确发起工具调用,甚至对当前工作目录的认知也存在明显混乱。
「编程与Agent」频道最新
- Rust 包管理器 Cargo 愿景:探讨依赖管理与智能体开发 — charliermarsh · 2026-08-06
- RTX 5090 本地大模型量化与 8GB 显存智能体性能基准测试 — max_paperclips · 2026-08-06
- 智能体框架影响准确率超15%,新基准DataSpace揭示短板 — omarsar0 · 2026-08-06
- Meta 发布终端编码智能体 Muse Code 与新模型 — alexandr_wang · 2026-08-06
- Christoph Nakazawa 复盘:与 LLM 协作开发框架的极限体验 — cnakazawa · 2026-08-06
- Scale 详解 Muse Code 架构:模型与智能体协同训练 — alexandr_wang · 2026-08-06