llama.cpp 更新弄坏旧 GGUF 模板,coding agent 变钝了
computehungry · reddit · 2026-07-28
有人提醒:llama.cpp 最近的提交把旧版 GGUF 里的 preservethinking 聊天模板行为弄坏了,导致在 coding agent 场景里模型表现明显变差。
- 这是最近 commit 引入的问题,影响的是旧模板兼容性。
- 受影响的不只是普通聊天,而是依赖思考格式的 agent 工作流。
- 加 kwargs 没用,不是这个方向的问题。
- 临时修复方法是手动指定 DeepSeek-V4 的 chat template:
--chat-template-file /path/to/llama.cpp/models/templates/deepseek-ai-DeepSeek-V4.jinja
「编程与Agent」频道最新
- FindDomain 让 AI agent 直接查域名并发起注册 — geek_guy1 · 2026-07-28
- AI 工程视频强调:评测、记忆和工具层比拼工具更重要 — Pavan_Belagatti · 2026-07-28
- Well MCP 连接器把 AI 接进发票、公司和联系人数据 — modelcontextprotocol · 2026-07-28
- Wikipedia MCP 服务器让 LLM 可多语种检索维基百科 — modelcontextprotocol · 2026-07-28
- 做群聊 agent 加了四个消息通道,仍然不稳 — iamstanty · 2026-07-28
- Claude Agent 提示脚手架会在模型升级后变技术债 — TechPreacher · 2026-07-28