Gemma 3 27B QAT 版本被指频繁重复调用工具

Mrinohk · reddit · 2026-08-04

开发者反馈在本地部署 Gemma 3 27B QAT 模型并开启工具调用时,模型会频繁出现重复调用同一工具的现象。作者在保留了推理上下文的测试框架中发现,模型在得到首次工具返回结果后,仍会感到困惑并再次发起调用。相比之下,Qwen2.5 32B 则没有此类问题。开发者推测这可能与 llama.cpp 的工具模式处理机制或模型本身的微调特性有关。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →