llama.cpp 合入 token 感知解析:工具调用更稳、吞吐更高
jacek2023 · reddit · 2026-11-23
llama.cpp 合入 PR #29307「token aware parsing」(作者 aldehir,62 commits,+1988/-502 行,21 条评论、5 轮 review)。该改动为 chat 实现感知 token 边界的解析,目标是让工具调用(tool calling)更可靠,同时提高每秒 token 数。对在本地跑 LLM 并依赖 function calling / agent 工作流的开发者是实质性改进。
「编程与Agent」频道最新
- 摄影师用 ChatGPT+Codex 从草图做出 iOS App 并上架 — justmojr · 2026-11-23
- 开发者实测 Gemini 4 Neon:自动重写内核并监督训练调参 — xennygrimmato_ · 2026-11-23
- 研究者看衰文件系统做上下文层:关系模型的旧剧本会重演 — sh_reya · 2026-11-23
- 开发者推出从生产会话生成产品级 eval 的工具 Zoroval,免费 Beta 开放 — Low-Introduction5293 · 2026-11-23
- Perplexity CEO:模型零切换成本+会话保留,别家做不到 — AravSrinivas · 2026-11-23
- 多数被扫描的 Supabase 应用存在开放读权限,vibe coding 泄数据成行业问题 — introvert_lmao · 2026-11-23