TensorSharp 本地跑 Pi 编码 Agent:Qwen3.8-27B 完整 CLI 与 SDK 教程
fuzhongkai · reddit · 2026-11-11
一篇可复现的端到端教程:用 .NET 推理引擎 TensorSharp 作为本地后端,驱动 Pi Coding Agent,无需改 Pi 源码。
搭建内容
- Pi 负责 agent 循环、对话状态与工具;TensorSharp 通过 OpenAI 兼容 API 在 127.0.0.1:5000/v1 提供模型服务
- 模型为 Qwen3.8-27B-UD-IQ3XXS GGUF,预设启用 DFlash2 投机解码(每步 7 个 draft token、贪婪解码)
- 独立 Pi agent profile,不污染常规配置;同时覆盖 CLI 与 Node.js SDK 两种用法
- 附带 E2E 测试:验证 agent 能修复小项目且不改动其测试
环境与步骤
- 验证平台为 Apple Silicon(M5 Pro MacBook Pro,48GB 统一内存),依赖 .NET 10 SDK、CMake ≥3.20、Xcode CLT、Node.js ≥22.19、Pi 1.5.1
- 流程:克隆 TensorSharp → dotnet build 构建服务端 → 运行 examples/pi-coding-agent/scripts/start-server.sh(自动下载并校验 SHA-256 的主模型与 DFlash2 draft 模型)
- Pi 专属 overlay 配置:max-tokens 16384、KV cache q80、MAXCONTEXT 65536;模型文件位置可用 TENSORSHARPMODELS 环境变量自定义
「编程与Agent」频道最新
- Reddit 用户吐槽 GLM-5.3-flash 频出低级错误，求助是否环境问题 — JustinHoMi · 2026-11-11
- 微调 Qwen3-1.7B 做 GLB 3D 资产生成，1.83GB 可跑 CPU — ConfidentDinner6648 · 2026-11-11
- 独立开发者用 Opus 5.5+Seedance 2.5 连做4条百万曝光宣传片 — dotey · 2026-11-11
- 开源 CodeGraph 把代码库变成 Neo4j 图谱，让 Agent 做依赖感知重构 — JeremyCMorgan · 2026-11-11
- Primitive 设想「守护 agent」：用基础设施强制执行团队决策 — daniel_mac8 · 2026-11-11
- Fable 5.2 做出 Claude 多子 Agent 协作可视化原型 — FinanceYF5 · 2026-11-11