llama.cpp 让 llama-server 原生支持 stdio MCP 工具
solyarisoftware · x · 2026-07-27
llama.cpp 为 llama-server 加入原生 stdio MCP
这次更新把 llama-server 直接变成了一个轻量的 agent harness，适合本地 GGUF 模型接工具用：
- 可把 MCP 服务器作为本地子进程启动
- 能发现可用工具，并通过 /tools 和 chat completions 暴露出来
- 兼容 Claude / Cursor 风格的 MCP 配置
- MCP 子进程失败后可自动重启
实际效果就是把栈简化成：本地模型 + llama.cpp + 本地工具。作者强调，这仍然需要模型本身具备足够强的工具选择、指令跟随和多步推理能力，并举了 Qwen3.6-27B 或 35B 这类模型作为可能合适的选择。
所属事件:llama.cpp 全面支持 MCP 协议(2 条相关)→
「编程与Agent」频道最新
- opencode v1.18.7 修复 macOS 全屏边距与项目选择器滚动 — opencode-agent[bot] · 2026-07-27
- Andrew Ng 提出 agent 记忆要靠图谱而不是更长上下文 — solyarisoftware · 2026-07-27
- OpenSpace 要做 AI agent 的技能管理层 — solyarisoftware · 2026-07-27
- Chrome 内置模型能接客服聊天并调用 MCP 吗 — DashinTheFields · 2026-07-27
- 闲置游戏电脑被改成远程 Claude Code 工作区 — rchardkovacs · 2026-07-27
- 新 agent 记忆设计把留存状态放进行为选择层 — nice2Bnice2 · 2026-07-27