OpenRouter 重写路由算法:按实际质量性价比分配流量
stuffyokodraws · x · 2026-10-31
OpenRouter 发布成立以来最大的 provider 路由改进,并公开完整文档。要点:
- 旧机制:主要按价格优先排序 provider。
- 新机制:按用户为「一个好结果」的实际成本(缓存调整后有效价格)、TTFT、端到端 TPS、失败/损坏响应、429 限流回退等维度综合评估,奖励「最佳质量推理」的 provider。
- 效果:请求保持低价的同时更快更稳;提供更高价值的 provider 自动赢得更多流量,形成持续改进的竞争激励。
推理服务商 EBorgnia 转发评论称 OpenRouter 是最大的开放 token 市场,新规则迫使各 provider 真正优化服务引擎,且团队在切换过程中非常透明;他还提到曾在新系统上线初期尝试 red team 该算法。
所属事件:OpenRouter 重写路由算法,转向按质价比分配流量(4 条相关)→
「Infra」频道最新
- Clover-35B-A3B 量化后仅 29.4GB,64GB Mac 跑出 42 tok/s — viveky259 · 2026-10-31
- Liquid Agent 登陆 Linux:LFM3 小模型全本地运行,一条命令装好 — JosephJacks_ · 2026-10-31
- 纯本地办公 AI 栈:OCR、Agent、RAG、语音六个开源模型组合 — HowDevelop · 2026-10-31
- a16z 数据:GPU 租金三个月涨 106%,token 价格反跌 58% — a16z · 2026-10-31
- vLLM nightly 支持 PLE 磁盘卸载,PR 标签现「Qwen4Exp」引 Qwen4 猜想 — rmhubbert · 2026-10-31
- 按分钟租 GPU 渲染只要 1 美元:一人 AI 工作室工作流曝光 — r0ck3t23 · 2026-10-31