两行命令解决 Qwen3.8-27b 过度思考

MikeNonect · reddit · 2026-08-17

针对 Qwen3.8-27b 模型推理时间过长(超过90分钟)的问题,作者分享了通过设置 llama.cpp 的两个标志来限制推理预算的解决方案。具体参数为 --reasoning-budget 8192 和 --reasoning-budget-message "Time to stop thinking. Give the final answer or make the tool call now.",在保持推理质量的同时显著提升了实用性。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →