Qwen3.6-27B 代码工作怎么配参数
starkruzr · reddit · 2026-07-18
楼主在讨论：**Qwen3.6-27B 做代码工作**时，哪些 harness、服务端参数和系统提示词组合更有效。 他先给出自己在 2×16GB 显卡机器上的一组 llama-server 预设，包括不同量化、MTP、KV cache 和上下文长度的搭配，并总结了几个结论： - **q8_0 KV** 大约能比 f16 KV 多出约 1.5× 上下文，质量损失很小。 - **MTP（draft spec-decode）** 能提速，但会牺牲部分上下文。 - 32GB 显存里基本只能同时放下一个 27B 模型，切换模型会有几秒重载成本。 他真正想问的是：在这些硬件约束下，大家是怎么配 harness、system prompt 和推理设置，才能让这个模型更像一个可靠的 coder。