LFM2.5-24B-A2B 实测:AMD W7900 上跑到约 95 tps,Q8 仅占 30GB
Thrumpwart · reddit · 2026-10-15
一位长期在 Pi Agent 中使用本地模型的用户分享了 LiquidAI 新发布的 LFM2.5-24B-A2B 实测体验:
- 速度:在 AMD W7900 上用 llama.cpp(ROCM)持续跑出约 95 tokens/s
- 显存:Q8 量化 + 完整 128k 上下文仅占 30GB 显存
- 稳定性:替换原用的 Ornith 1.5-35B 后,机械性任务和长时间递归任务均未失败
作者认为它是与更大模型搭配运行的理想"小钢炮",候选更深层"AI Council"多模型协作工作流的测试仍在进行。
「Infra」频道最新
- Adobe 联手 NVIDIA 优化创意应用:RTX Spark 本地提速至 2 倍 — shashib · 2026-10-16
- Meta 合同承诺单季暴增至 3490 亿美元,服务器内存价格一年涨三倍 — tengyanAI · 2026-10-16
- Meta 发布 Muse Spark Open,vLLM 支撑训练期 RL 推理并首日适配 — colinmcnamara · 2026-10-16
- Meta Muse Spark 开源版需 493GB 内存,16GB 笔记本根本跑不动 — TejasKumar_ · 2026-10-16
- CoreWeave 三日暴跌 20%,信用市场定价五年内违约概率超 60% — kimmonismus · 2026-10-16
- MiniCPM-V 4.7 端侧跑出 17 tokens/s,iPad 仅需约 3GB 内存 — techNmak · 2026-10-16