开发者让 Pi 编码 Agent 跑在全本地 Qwen3.8-27B 上,附完整教程
fuzhongkai · reddit · 2026-11-11
作者在自研 .NET 本地推理引擎 TensorSharp 上跑通了 Pi 编码 agent 的完整工作流:读取项目、改代码、跑测试、再改,全程模型推理在本地完成,还加了检测防止 agent 偷偷改测试让它通过。
配置要点:
- Apple Silicon Mac(示例跑在 M5 Pro 48GB,目标 32GB+)
- Qwen3.8-27B UD-IQ3XXS GGUF,Metal 后端
- DFlash2 Q4KM drafter 做投机解码(每步 7 个 draft)
- 64K 上下文 + q80 KV cache,贪心解码
- Pi @earendil-works/[email protected](旧包名已弃用)
可复现步骤:源码编译 TensorSharp(含一个跨 Pi 工具调用轮次保留 KV prefix 的服务端修复)→ 启动脚本加载模型+drafter(约 12GB)→ 在 Pi 的 models.json 里注册 tensorsharp provider(OpenAI 兼容端点,127.0.0.1:5000)→ 设为默认。注意该服务端无鉴权,务必只绑定 localhost。
完整示例见 GitHub:zhongkaifu/TensorSharp/examples/pi-coding-agent。
所属事件:开发者用 TensorSharp 让 Pi 编码 Agent 全本地运行(3 条相关)→
「编程与Agent」频道最新
- 让 Agent 学会「停」:5 个防止无限循环的工程技巧 — goyalshaliniuk · 2026-11-11
- 3小时搞定游戏角色动画:Fable 5.2+Tripo+Blender MCP 全流程 — sidahuj · 2026-11-11
- Perplexity Teammates 本地浏览器上线插件与 Skills 上传功能 — ChrisUniverse · 2026-11-11
- 团队用 AI 五天做出动作游戏:手感调校仍靠人工反复试玩 — SucceededMind · 2026-11-11
- Machine Payments 协议新增身份验证,让 agent 能顺畅给基础设施付费 — jeff_weinstein · 2026-11-11
- 押1万美元赌2027年用量最大的Slack agent无需@提及 — philhchen · 2026-11-11