27B 本地模型够用后他停掉了 API:Qwen 编码实测与成本账
Training-Respect8066 · reddit · 2026-09-24
Reddit 用户分享用本地部署的 Qwen 编码模型(27B)替代 API 的完整实践:
- 用量要点:模型要大量思考,看着它干活很痛苦,最好的方式是让它无人值守地跑;实测它能独立完成复杂重构并做出合理决策。
- 配置:量化用 Q4KS,上下文量化到 Q80;试过 Swift-Qwen 更快但容易陷入循环,原版 Qwen 很少出现。agent 用 Pi,不开 MCP,只留 bash 加读写编辑工具;编辑工具是最弱一环,模型常因缩进错误重试。沙箱用 Docker,agent 甚至跑在树莓派上。
- 成本:本地算下来 1M 输入 token 约 2.4 美分、输出 70 美分,与 nano-gpt.com 上最便宜的 API 提供商相当。
「编程与Agent」频道最新
- Plurai 推出 Agent 仿真测试:让 agent 在数字孪生世界里先失败再修复 — PrajwalTomar_ · 2026-11-11
- AI 做的游戏太难：Claude 6 分钟通关，作者砍 40% 难度 — builderjaydub · 2026-11-11
- Anthropic 推出 Claude Tag，65% 产品代码由内部 AI 生成 — nikola_mr64990 · 2026-11-11
- 评测工作流核心：最大化专家每单位注意力的信息增益 — danshipper · 2026-11-11
- 开源 Node 把 ComfyUI 工作流变一键模型，内置 19 个工作流 — jefoce · 2026-11-11
- Aqua 推出 Notetaker：会议记录经 MCP 直接喂给 AI 智能体 — Scobleizer · 2026-11-11