MCP 工具膨胀是隐性成本 bug:Pi 1.0 用 Codemode 砍掉四成 token

大模型之路 · wechat · 2026-10-20

文章讨论编程智能体接入大量 MCP 工具后的隐性成本:每个工具的 JSON 定义都常驻系统提示词,每轮对话被重复读取和计费,成本随轮数线性放大,许多团队误以为是「模型本来就贵」。Pi 1.0 用三个机制应对:Codemode 在 Agent 循环中嵌入 QuickJS 沙箱,让模型直接写 JS 调用工具而非在上下文里摊开工具定义,实测单轮提示词 token 从约 5300 降至 3300;配合延迟加载,工具按需才进上下文;PiDurable 给长任务做检查点,支持断点续跑。文章也指出边界:工具需提前注册适配、老框架迁移有成本,且小模型写 JS 不如填 JSON 稳,Codemode 更适合强模型。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →