Qwen3.8-27B 本地跑 agent 编码：过度思考 1.6 万 token 却不调用工具
previaegg · reddit · 2026-11-06
Reddit 用户在双 16GB GPU(4080 Super + 4070 Ti Super)消费级硬件上用 llama.cpp + OpenCode 跑 Qwen3.8-27B(UD-Q5KXL)做 agent 编码，推理速度尚可(2,330 与 24.1 t/s),但遭遇严重的「过度思考」问题。
问题实验：同一任务对比 medium 与 low reasoning effort,两次运行都只做了 2 次检查类工具调用、0 次实现类调用，生成超 16,000 输出 token 打满上限，未完成任务，耗时约 12 分钟；降低 reasoning effort 并未改善。
作者的开放问题(帖子附完整 llama-server 启动命令：64K ctx、q80 KV cache、flash-attn 等):
- --reasoning / --reasoning-effort / --reasoning-preserve 是否适合 agentic 编码？要不要干脆关闭推理？
- OpenCode 的 system prompt 与工具定义是否是诱因？换其他编码 agent 会更稳吗？
- 换 vLLM/SGLang 是否能改善工具调用可靠性？Q5KXL 量化是否影响指令遵循？
- 上下文长度与压缩策略的贡献、以及是否值得切 headless Linux。
评论区聚集了大量本地跑模型做 agent 的实操经验，适合遇到同类问题的人参考。
「编程与Agent」频道最新
- 李开复推介 Longevity Grok：基于 Grok Bot 的个人长寿研究智能体团队 — kaifulee · 2026-11-06
- OpenCartridge 集成图片转 VRM 与动画,本地跑通游戏资产生成 — bdsqlsz · 2026-11-06
- OpenAI 员工用 Codex 把户型图变成可交互的室内气流模拟器 — OpenAIDevs · 2026-11-06
- 烧掉4746美元跑28849次试验,发布编码Agent框架排行榜 — HankYeomans · 2026-11-06
- vibe42ai 上线 Linux 客户端，用户建议补上安全扫描 — sujingshen · 2026-11-06
- SEO 专家拆解 Amp:28 个 AI 回答零入选,流量仅竞品 1/7 — iannuttall · 2026-11-06