Liquid AI 发布 2.6B 端侧模型：手机跑 30 tok/s
BTA_Labs · reddit · 2026-08-05
Liquid AI 发布了 LFM2.5-2.6B 模型，主打端侧运行。该模型仅 2.69B 参数，支持 128K 上下文及工具调用，专为多步 Agent 工作流优化。
性能表现（官方数据）：
- 手机端速度达 30 tok/s，M5 Max 达 220 tok/s。
- 内存占用低于 2.5 GB，Q4 量化版仅 1.67 GB。
能力评测：
- 在工具调用上具备竞争力，但编码和重度知识任务仍弱于大模型。
- 官方明确表示不建议用于 Agent 编码。
作者认为，这类小模型的最佳定位是作为本地 worker agent 执行提取、搜索等重复性工具调用，遇到复杂规划时再交由大模型处理。
所属事件:Liquid AI发布2.6B端侧智能体模型LFM2.5(18 条相关)→
「Infra」频道最新
- 作者实测 2×GB10 本地调优 GLM-5.3-Flash：解码速度提升近 20% — EAccelerate_42 · 2026-10-16
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- Optuna 作者秋叶哉：花3亿日元调2个超参的时代，BO/HPO 还有何用武之地 — Stefania_druga · 2026-10-16
- Amazon 发布生产级 RAG 缓存方案：逐请求校验证据复用，零无效命中 — _reachsumit · 2026-10-16
- LinkedIn 推出 TransX:推荐系统序列转导框架,CTR 提升 6.02% — _reachsumit · 2026-10-16
- llama.cpp 新 PR 优化 AVX2 分块累加器,纯 CPU 推理再提速 — jacek2023 · 2026-10-16