实测 Liquid LFM2.5-24B:Mac 上跑出 174 tok/s,速度宣称基本属实

TheOyinbooke · x · 2026-10-14

作者在 Mac Studio M5 Max 上复现 Liquid AI 的官方速度宣称:按官方条件(llama.cpp、Q4KM、4K 输入)实测 174.1 tok/s,短 prompt 达 179.1,与官方的 184 tok/s 差距约 5%,宣称基本站得住。他同时对比了 Qwen3-6.35B-A3B、Gemma4-26B-A4B 以及 MLX 引擎下的表现,LFM2.5 是全场最快。模型文件 14.53GB,16GB 内存的 Mac 装不下。

但这是「思考型」模型:每次回答前都会长思考,200 词回答可能先思考 1000-2000 token,不少任务因思考耗尽 4096 token 上限而输出为空。结论:作 32GB 以上 Mac 上的 agent 大脑打 8/10,做快速一次性问答只有 5/10;调工具的速度倒是思考型模型里最快的。