LangChain 编码 Agent 用模型路由省 64% 成本,合并率不降
hwchase17 · x · 2026-10-14
LangChain 在其开源编码 agent Open SWE 中引入模型路由器:每个任务线程被分配到「最有可能完成任务的最低价模型」。- 在 973 个线程上 A/B 测试(一半走路由,一半固定用 GPT-6 Astra):单线程中位成本 $0.94 vs $2.61,降低 64%。
- 最终合并 PR 的比例:路由组 29.2% vs Astra 组 27.3%,p 值 0.49,无统计显著差异。
- 路由器把 56% 线程发给均衡模型、34% 发给快速模型、10% 发给性能模型。
- 他们也试过全部用快速模型,因工程师反馈输出质量低,一天内就终止了实验。
Harrison Chase(hwchase17)强调设计观点:路由器应放在 harness 里而不是独立网关,因为只有 harness 了解任务本身。LangChain 也自述实验存在 caveat(对照组是最贵的配置等)。这篇帖展示了 agent 成本优化的一手实测方法论。
「编程与Agent」频道最新
- Ethan Mollick 出新书:用 Claude 代理数分钟完成过去数小时的图表工作 — rseroter · 2026-10-23
- OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍 — JeremyCMorgan · 2026-10-23
- 黄仁勋详解 Vera Rubin 代理系统完整架构:NVL72+MGX+CMX+RTX — rohanpaul_ai · 2026-10-23
- 用 Hermes 搭建全自动 SEO 智能体:三个 skill 覆盖关键词到建站 — EXM7777 · 2026-10-23
- 从赛事研究到链上下单:一个「默认需人工批准」的下注 agent 架构复盘 — Dry-Comfortable-2678 · 2026-10-23
- Capy 0.5.0 支持复用 Claude Pro/Max 订阅额度,并新增 OIDC 云端访问 — garrytan · 2026-10-23