投机式程序化工具调用落地 Pydantic AI,称近乎零成本提速

a1zhang · x · 2026-10-10

开发者 @Glitch253 把 @a1zhang 提出的 Speculative Programmatic Tool Calling(投机式程序化工具调用)集成进了 Pydantic AI,并报告效果不错。这一「Code Mode」思路让 agent 把工具调用编译为程序一次执行,减少多轮往返开销,作者认为它几乎没有缺点,相当于「免费的速度提升」;其 codepuppy 项目早已采用,还加了状态栏显示投机调用节省的时间。原仓库 codepuppy 是一个 MIT 协议的开源编程 agent(848 stars),作者称是对 Windsurf/Cursor 限制模型访问并涨价的回应,支持并行跑大量实例。