Speculative PTC: 将工具调用与代码生成并行以提速
a1zhang · x · 2026-09-02
Alex Zhang 提出了推测性程序化工具调用（sPTC）技术，旨在解决 Agent 工作流中工具调用的高延迟瓶颈。
- 核心原理：在 Harness 流式生成代码的同时，解析部分生成的代码并推测性地预启动安全的工具调用（如子 Agent 或搜索 API）。如果最终代码确认了该调用，直接复用结果。
- 效果：相当于为 Agent 程序增加了一个轻量级的 JIT 层。在 RLM 实验中，实现了约 1.2 倍的加速，具体效果取决于轨迹和工具延迟。
- 适用场景：适用于基于代码执行（CodeAct-like）的 Harness，特别是涉及高延迟子模型调用的场景。
「编程与Agent」频道最新
- 内存占用仅为 rust-analyzer 的百分之一？新 Rust 语言服务器 Rust Glancer 发布 — JeremyCMorgan · 2026-09-02
- CommerceAgentBench 破千星：阿里Accio从160万真实对话提炼电商Agent基准 — VibeMarketer_ · 2026-09-02
- Fable 5.1 发布：输出带 Anthropic 统计水印，缓存与工具调用多项改进 — Angaisb_ · 2026-09-02
- 提示与技巧：会话过长会导致 Token 浪费与模型能力下降 — hudsonhateno · 2026-09-02
- 实测 MCP 吞噬 2.6 万 Token，Agent 开销惊人 — THEDEVRELMARKUS · 2026-09-02
- 用 Antigravity 两分钟构建 Chrome 插件：比对网页历史快照 — VeryWellVersed · 2026-09-02