LFM2.5 Pi LoRA 上架 GGUF:llama.cpp 本地跑 agent 适配器
yb2698 · x · 2026-10-30
作者发布 harness-hub/LFM2.5-24B-A2B-pi-GGUF,即此前 Pi 框架 RL 训练的 LoRA 适配器的 GGUF 版(仅 37MB F16),可在 llama.cpp 上叠加 LiquidAI 官方基座 GGUF 运行,效果实测流畅。
部署要点(详见模型卡):
- 下载基座 Q80 与适配器 F16 GGUF——基座量化越接近 BF16 训练权重,行为越贴近训练效果。
- llama-server 启动时须加 --jinja(开启工具调用)并 --lora 挂载适配器,上下文设 65536。
- 在 /.pi/agent/models.json 里接入本地服务器,api 必须填 openai-completions——不填 pi 会走 Responses API,而适配器没在这个 API 上训练过。
该适配器在双方都能解出的任务上,准确率与基座相当的同时工具调用减少约 39%。
所属事件:LFM2.5 Pi LoRA 适配器推出 GGUF 版支持本地运行(2 条相关)→
「编程与Agent」频道最新
- 4B 小模型当审查员把关 70 倍大 Agent，仅 4% 步骤多花 9-13% 成本 — petrusenko_max · 2026-10-30
- 静态评测集会过期：RAG 评测应做成随知识库更新的流水线 — paulabartabajo_ · 2026-10-30
- 过去一周的活，现在交给 Sol 或 Opus 约 5 分钟完成 — D3VAUX · 2026-10-30
- dhh 对垒逐行审查派:验证结果才是 AI 编程的未来 — CtrlAltDwayne · 2026-10-30
- AI 写码+AI 审 PR 之后，还需要一个 AI QA 写 Playwright 测试吗 — Infinite-Fly-2756 · 2026-10-30
- GitHub Octoverse 榜单：Claude Code 居增速榜首，helium 入 Top 10 — uwukko · 2026-10-30