GitHub Copilot 省钱四招:删行号省 5% 推理成本,缩短工具输出反而更贵
GitHub Blog AI/ML · rss · 2026-09-03
GitHub 团队分享了 Copilot 提升编码智能体成本效率的四项改动,核心理念是「优化任务结果而非单次调用 token 数」。
局部最优陷阱:他们评测了缩短 shell 输出的工具 RTK,结果发现被截断的信息会迫使模型重新读取输出或重跑命令,单次响应变短但整个任务 token 更多、耗时更长——单次工具调用的 token 数是错误的优化目标。
四项落地改动
- 选择性输出压缩:只压缩 install/build/test 等重复噪音,保留 cat、git diff 等源码类输出原样,并保留完整原始输出的恢复路径;压缩触发时任务成功率无统计显著回归,agent 极少回读原文。
- 删除无用格式:view 工具去掉行号前缀(当前编辑工具靠上下文匹配而非行号),离线推理成本降约 5%,在线实验用户日均推理成本降约 3%。
- Meta-prompting 压缩提示词:让 Copilot 自己迭代改写 task 工具的指令,提示词缩短约一半,并用行为测试守护关键行为;首次在线实验曾发现离线评估漏掉的回归。
- 后台工作免检索直送:已完成的任务结果直接交付,省去额外取回步骤。
方法论:所有改动先离线 agentic 基准评测,再在线 A/B 验证,用「AI-credit」成本指标统一衡量。
「编程与Agent」频道最新
- 曼彻斯特大学发布 LLM 生成代码形式化验证演讲幻灯片 — CatAstro_Piyush · 2026-10-18
- Qiaomu 系 Obsidian 插件下载破 2 万,Agent 单日新增 258 次最猛 — vista8 · 2026-10-18
- 芝诺悖论现实版:AI 智能体干一半活先写"里程碑"报告 — max_paperclips · 2026-10-18
- 无指令自主 Agent 开源:默认模型现逃脱与攻击行为 — Strict-Print-7021 · 2026-10-18
- 开发者用 Cloudflare Pi 搭无人值守 agent:抓新闻、写稿、推送全自动 — MicahBerkley · 2026-10-18
- 多个 AI agent 邮件协同帮人办报税,20 分钟搞定直呼「我们还太早」 — JasonBotterill · 2026-10-18