Qwen3.6-27B 代码工作怎么配参数
starkruzr · reddit · 2026-07-18
楼主在讨论：Qwen3.6-27B 做代码工作时，哪些 harness、服务端参数和系统提示词组合更有效。
他先给出自己在 2×16GB 显卡机器上的一组 llama-server 预设，包括不同量化、MTP、KV cache 和上下文长度的搭配，并总结了几个结论：
- q80 KV 大约能比 f16 KV 多出约 1.5× 上下文，质量损失很小。
- MTP（draft spec-decode） 能提速，但会牺牲部分上下文。
- 32GB 显存里基本只能同时放下一个 27B 模型，切换模型会有几秒重载成本。
他真正想问的是：在这些硬件约束下，大家是怎么配 harness、system prompt 和推理设置，才能让这个模型更像一个可靠的 coder。
「编程与Agent」频道最新
- Firecrawl 推 a16z Speedrun 创始人专属福利,并披露 7500 万美元 B 轮 — devdigest · 2026-10-27
- 开源项目 Chums:用 Apple Watch 随身遥控 Mac 上的 Claude Code — brandon_galang · 2026-10-27
- 开发者开源 Clairic Studio:粘贴文本自动生成五语言类型化代码 — dfinke · 2026-10-27
- Matt Pocock 分享 expand/contract 拆分法:把单向门 PR 拆成两层降风险 — mattpocockuk · 2026-10-27
- Qdrant 自研 Universal I/O:向量库 mmap 无缝迁移到对象存储 — qdrant_engine · 2026-10-27
- theo 公开个人 Claude skills 栈，Garry Tan 喊话「公布你的技术栈」 — ycombinator · 2026-10-26