开发者让 Pi 编码 Agent 跑在全本地 Qwen3.8-27B 上,附完整教程

fuzhongkai · reddit · 2026-11-11

作者在自研 .NET 本地推理引擎 TensorSharp 上跑通了 Pi 编码 agent 的完整工作流:读取项目、改代码、跑测试、再改,全程模型推理在本地完成,还加了检测防止 agent 偷偷改测试让它通过。

配置要点:

可复现步骤:源码编译 TensorSharp(含一个跨 Pi 工具调用轮次保留 KV prefix 的服务端修复)→ 启动脚本加载模型+drafter(约 12GB)→ 在 Pi 的 models.json 里注册 tensorsharp provider(OpenAI 兼容端点,127.0.0.1:5000)→ 设为默认。注意该服务端无鉴权,务必只绑定 localhost。

完整示例见 GitHub:zhongkaifu/TensorSharp/examples/pi-coding-agent。

所属事件:开发者用 TensorSharp 让 Pi 编码 Agent 全本地运行(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →