Rayline 推出 ARC 路由：逐轮选模型，成本比全用 Opus 低 90%

testingcatalog · x · 2026-11-12

Rayline 发布模型路由产品 ARC，宣称是「每一轮对话用对的模型」的语义路由方案。官方示例称其路由成本为 3.2 美分，对比每轮都用 Opus 的 32 美分，成本低约 90%。

ARC 提供两种模式：Generation API 由 Rayline 代跑选中的模型并返回结果，可直接当模型用；Routes API 则只返回模型选择与推理等级，用户在自己的端点上跑推理，可调探索温度、成功率价值等参数。已适配 llama.cpp、vLLM Semantic Router、Hugging Face、OpenRouter、Claude Code、Cursor、Cline、LangGraph 等常见工具栈，权重在 Hugging Face 开放。