双 RTX 5060 Ti 跑 3.8 27B:本地结对编程实测与提示词心得
Kahvana · reddit · 2026-09-08
作者分享了在本地跑 3.8 27B(Unsloth Q4KS,200K 上下文 Q40)做结对编程的配置与经验。
部署配置
- 硬件:双 RTX 5060 Ti 16GB(PCIE 5.0 x8x8),llama.cpp 推理,tensor parallel + MTP 推测解码(draft max-n 11,draft min-p 0.1)
- 前端:Kilo Code(VSCode 插件)作为 harness,默认 jinja 模板
- 推理档位:默认 xhigh,任务简单或求快时降到 medium/low
使用体会
- 作为结对编程表现亮眼,能抓住作者的小错误,方案选择通常正确
- UI 设计任务上,偏离常规设计的场景表现较弱
有效提示词技巧
- 用手绘 ASCII 文本图描述组件/布局/视图比给示例图片效果好
- 描述想法时,直接写类名、字段/属性和方法签名,比自然语言描述上手更快
作者同时在征集其他人使用该模型的最佳提示词实践。
「编程与Agent」频道最新
- OpenAI 前工程师反驳 Codex 起源说：本为加速基建的内部工具 — gabrielchua · 2026-09-08
- 用 GLM-5.3-Flash 在 Blender 里搭出 3D 厨房，作者称 Blender-RL 成本并不高 — bookwormengr · 2026-09-08
- 先出方案再动手:Factory /missions 输出让用户直呼正中需求 — matanSF · 2026-09-08
- Rauchg 发起第二轮开源资助：35 人各得 1000 美元 — iamsahaj_xyz · 2026-09-08
- PyPI 8月报:mcp-types 下载暴涨 425%,OpenHands 连续四月翻倍 — rajistics · 2026-09-08
- Muse Spark 1.3 用 Three.js 写出 16km² 浏览器 3D 驾驶 demo — alexandr_wang · 2026-09-08