Flint 40B 空转根因浮现:chat template 忽略 enable_thinking=false

tydsh · x · 2026-10-24

tydsh 回复模型评测讨论时指出,Flint 40B 在 agent 场景反复输出空 <think></think> 标签的问题,可能与 Hugging Face 上已提交的 issue 有关:RecursiveSI/flint 的 chat template 忽略 enablethinking=false 设置,导致推理内容泄漏到正文。该 issue 展示了模板中过滤特殊 token 与处理 reasoningcontent 的 Jinja 实现,是本地部署与 vLLM 排查的实用线索。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →