4090 跑 Qwen 提速到 70-90 tok/s,开发者晒本地 AI 编码工作流
julianharris · x · 2026-09-20
开发者 julianharris 分享其高速运转的本地 AI 编码环境，关键信息：
- 调优成果：找到一个设置让 4090 + Qwen 27B 的输出从 50-70 tok/s 提升到持续 70-90 tok/s，约为 Claude Opus 吞吐量的 2 倍
- 工具组合：使用极简 agent harness Pi 搭配 MCP 扩展，接入自己的 spec 管理与治理系统（Ceetrix）
- 实战案例：Qwen 找出一个 bug，孤立看似乎需要大规模重写，但通过 Ceetrix 的任务上下文发现功能其实已实现——只是藏在菜单而非按钮里，问题实为糟糕的设计
- Pi 简介：支持 skills、AGENTS.md、四种运行模式（交互/print/RPC/SDK），可通过扩展、包自定义工作流，作者强调「改 harness 适配你的工作流，而不是反过来」
「编程与Agent」频道最新
- 美联航将禁止个人AI代理代客预订机票 — Polymarket · 2026-11-12
- Agentic Search 图解：4 次搜索的循环成本约为单次搜索的 5 倍 — adnan_hashmi · 2026-11-12
- AWS 自曝：AWS Emulator 每行代码均由自主 AI Agent 编写 — SumitGup · 2026-11-12
- freeCodeCamp 上线 2 小时 Codex 智能体编码免费课 — adnan_hashmi · 2026-11-12
- 被严重低估的资源：跨模型跨厂商的工具调用可靠性实测 — ricklamers · 2026-11-12
- 整理 5.5 万数据点的教训:企业级 Agent 数据准备远比想象更难 — BenBajarin · 2026-11-12