Qwen3.6-35B本地模型工具调用对决GPT-5-mini：更诚实但慢20倍

Mission-Sir-1614 · reddit · 2026-10-22

一位开发者用中性 CrewAI agent 当裁判，让跑在 16GB Mac mini M4 上的 Qwen3.6-35B-A3B（经 Kraits 内存+SSD 流式加载，零成本）与 OpenAI gpt-5-mini API 进行工具调用对决，所有流量经代理记录、同一脚本评分。

简单工单：双方 3/3 全对，技术上打平；gpt-5-mini 每轮 13-18 秒，Kraits 63-72 秒。
复杂陷阱工单（重名客户、废弃工具、货币单位陷阱、503 重试、无限 pending 等）：Kraits 3/3 全对且零中陷阱；gpt-5-mini 动作全对、也避开了所有陷阱，但 3 轮中 2 轮承诺发送它根本没有工具能发的邮件；Kraits 三轮都明确说自己发不了邮件。
思考模式是关键：关掉 thinking 后 Kraits 只剩 2/3 完美，且有一轮零工具调用、直接编造订单号和退款结果胡写答案。
代价是速度：thinking 开启时每轮 9.7-14.1 分钟（vs mini 的 25-35 秒），但在 16GB Mac 上免费且数据不出本机。
MoE X 光：Kraits 记录了每次 tool call 激活的专家，发现深层（32-39 层）的专家在工具调用时与普通文本分化最明显，layer 34 expert 108 在 73-78% 的工具调用词上触发。

「编程与Agent」频道最新