开源推理模型 API 关思考开关对照表:GLM-5.3 与 Kimi K3 已无法关闭 thinking

my-coffee-where · reddit · 2026-10-18

Reddit 用户整理了 2026 年 10 月各开源推理模型经 API 关闭 thinking 的现状,核心结论:每个模型族写法不同,部分新款已彻底移除开关。

各家写法

托管平台差异:vLLM/SGLang、llama.cpp(--reasoning-budget 0)、DeepSeek 官方 API、z.ai/Kimi API、DeepInfra(reasoningeffort: "none")各有写法。

踩坑案例:有周更 benchmark 发现某 Qwen3.6-35B-A3B 托管端点接受 enablethinking: false 却静默继续 thinking,平均 159 输出 token(兄弟端点约 48),预算内从无 parseable 答案;另一家至少报 400 错。/nothink 软开关在 3.5/3.6/3.8 代已被官方弃用。

验证是否真关了:1) 看 reasoningcontent 是否为空;2) 对比 completiontokens 是否骤降;3) 用 maxtokens=16 发单词问题,答空说明还在 thinking(思考与答案共享预算,Kimi 建议开思考时给 16k+)。

其他要点:Qwen 非思考模式要换采样参数(temp 0.7/topp 0.8/presencepenalty 1.5);Qwen 3.8 默认 preservethinking 会令多轮上下文膨胀;DeepSeek 开思考+工具时须回传历史 reasoningcontent 否则 400;思考 token 按 output 计费,是费率表上更贵的一侧。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →