llama.app 开放本地模型接入编码 Agent,支持 Pi 与 Codex 离线运行
mervenoyann · x · 2026-11-08
llama.cpp 团队与 Hugging Face 推出的 Llama App 发布了官方 Agent 集成文档,可将本地开源模型通过 OpenAI 兼容端点(默认 http://127.0.0.1:9931/v1)接入主流编码 Agent,数据不出本机、支持完全离线工作。
工作方式
- Llama App 在本地启动 llama.cpp server 提供 OpenAI 兼容 API,Agent 进程向其发送 prompt 并执行文件/终端操作。
- 建议 32k 以上上下文窗口的模型,并优先选列表中标注 "agentic coding" 的模型。
已支持的集成
- Pi:curl 安装后在项目目录启动,/login llama.cpp 填入 server URL,/model 选择模型;Pi 也是 OpenClaw 背后的编码框架。
- Codex CLI / ChatGPT Desktop:npm 安装 Codex 后,在 /.codex/config.toml 中配置本地 baseurl 与模型名即可使用。
图中还列出 OpenClaw(兼容 API)、Hermes(onboarding 内直接配置)等集成方式,项目 GitHub 已有 133.4K star。
「编程与Agent」频道最新
- 开发者用 Claude Code 做出 3D 灭火飞机浏览器游戏 Cinderscoop — vinishkapoor · 2026-11-09
- 开发者实测：本地 LLM 并发多请求可提速 2-3 倍 — draginol · 2026-11-09
- NoMac：MCP 服务器给 Agent 一台云端 Mac 和 iOS 模拟器 — Stunning-Farmer185 · 2026-11-09
- 开发者观察：新一代 LLM 让人从过度约束转向留白让模型发挥 — jongranskog · 2026-11-09
- Proof of Agent 用 AI 互相评分,重复回复的机器人被降权零收益 — adamamcbride · 2026-11-09
- AI 辅助编程没有消灭工程，只是把工程上移一层 — Responsible-Beat2137 · 2026-11-09