RTX 5060 Ti 跑 Qwen 3.8 27B：73K 上下文仅用 3 提示词建 API

chiribe · reddit · 2026-08-17

作者分享了在 RTX 5060 Ti (16GB) + Intel N100 上运行 Qwen 3.8 27B 的最佳 llama.cpp 配置，实现了 73K 上下文窗口。通过开启 Native MTP (speculative decoding) 和 KV Cache 量化 (q41)，他在测试中使用 OpenCode (基于该模型) 仅通过 3 个提示词完成了整个 REST API 和 MCP Server 的开发。该过程处理了超过 100 万 tokens，模型自主运行约 2 小时，生成了架构规范、NestJS 代码、单元测试并处理了边缘情况。文中详细列出了硬件规格、模型参数及完整的 llama.cpp 配置文件。