模型路由该内嵌 harness 还是放在外部网关
hwchase17 · x · 2026-07-23
这条在问一个很具体的工程架构问题：做 model routing 时，路由器到底要不要对 harness 感知、直接做进 harness 里，还是可以放在一个与 harness 无关的 gateway 里。
- 讨论的核心是编程智能体周边的路由系统设计。
- 关键权衡在于：路由逻辑是否需要拿到 harness 状态，才能做更好的模型选择；还是说保持一个外部网关就足够。
「编程与Agent」频道最新
- Kolab 基准：真人屏幕录像揭示 AI Agent 高估自身协作质量 — minnesotanlp · 2026-10-27
- 开发者吐槽 Claude 烧 token：同样工作 GPT 省 3 倍用量更便宜 — haider1 · 2026-10-27
- InfoWorld：别把模型当地基，Agent 架构必须做到 48 小时可换模型 — rseroter · 2026-10-27
- 便宜模型跑 Agent 反而更贵：线性往返堆爆上下文窗口 — vasuman · 2026-10-27
- 5 千行 Rust 单二进制看板 Kanzo：给 Claude Code 当任务板 — allmudi · 2026-10-27
- 「人类审批就安全」是幻觉：approval fatigue 与 Agent 风险设计 — Efistoffeles · 2026-10-27