OpenRouter 重写供应商路由:从拼价格转向按质价比分配流量
QuixiAI · x · 2026-10-31
OpenRouter 发布了成立以来最大的一次供应商路由架构升级,联合创始人 Alex Atallah 表示经过数月研发与测试。新路由机制详情:
- 旧逻辑:主要按价格优先分配流量。
- 新逻辑:按「实际成本下的最佳质量」排序,综合有效价格(含缓存调整)、首 token 延迟(TTFT)、端到端吞吐(TPS)、失败/劣质响应与 429 限流率等信号。
- 流量分配:各端点按「调整价格 × 速度」落入竞争边界内(获得大部分流量)或探索区(份额快速衰减,但保底少量流量以便监测改进),每个请求按份额加权随机选择端点,失败后从剩余端点重试。
- 熔断与上限:可靠性、质量或限流信号显著劣于同行时暂停流量直至恢复。
官方称这一设计让高价值供应商自动赢得更多流量,形成持续改进的激励闭环。
所属事件:OpenRouter 重写路由算法,转向按质价比分配流量(4 条相关)→
「Infra」频道最新
- vLLM 首日支持 MiniMax-M3.1-Flash,Rubin NVL72 吞吐提升 10.2 倍 — vllm_project · 2026-11-12
- vLLM 实测:MiniMax-M3.1-Flash 在 Rubin NVL72 吞吐达 GB300 的 10.2 倍 — vllm_project · 2026-11-12
- Meta FAIR 开源 e-means:比 Lloyd 算法快 10 倍、损失更低的 k-means — generativist · 2026-11-12
- 黄仁勋遭董事会罢免传闻发酵,英伟达盘后暴跌 9% — djcows · 2026-11-12
- Vmax 推出 Campaign:用自博弈自动生成 RL 任务训练 Agent — soleio · 2026-11-12
- JITEngine 为 Apple Silicon 即时定制推理引擎,快至 2.7 倍 — CShorten30 · 2026-11-12