OpenRouter 重写路由算法：错误率降 46%，TTFT 快 16.9%
steipete · x · 2026-10-30
OpenRouter 宣布成立以来最大的路由算法升级，弃用单纯按价格路由的旧策略，新算法综合考量每个 provider 端点的实际价格、延迟、吞吐与错误率，按「成本+质量」为每次请求选最优组合。
- 实测结果：TTFT 提升 16.9%，吞吐提升 16.3%，容量错误减少 46%，代价仅成本上升 6.0%（且 provider 尚未针对新算法优化）。
- 实时调度：某端点出问题时流量自动转移，恢复后再回流。
- 保持缓存感知：会话仍会粘在已分配的 provider 上，避免破坏 KV cache。
- 用户无需改代码即可受益，优质 provider 自动获得更多流量，形成持续改进的激励。
steipete 评论称这很聪明，惊讶之前居然不是默认行为——过去推理质量不可预测正是他建议绕过中间商的原因。
所属事件:OpenRouter 重写路由算法，错误率与延迟显著下降(2 条相关)→
「编程与Agent」频道最新
- Gym-Anything 引入审计 Agent,专门用合法动作破坏环境找错 — wellecks · 2026-10-30
- CMU 用 Agent 自动造 200+ 软件环境,Gym-Anything 拿 GDP 数据选题 — wellecks · 2026-10-30
- Cloudflare 不肯做,开发者自研工具实现 Durable Objects 零停机迁出 — samgoodwin89 · 2026-10-30
- 两分钟面试法：用一条 prompt 让 Grok 帮你搭两个定制 bot — nateliason · 2026-10-30
- Cursor、Harvey 为何自训专用模型：多数细分市场养不起专属大脑 — MartinGTobias · 2026-10-30
- Scenario 开源 3D OS：80 项技能让编码 Agent 直通 Blender 和 Unreal — Scobleizer · 2026-10-30