Ramp 发布 Router 网关：宣称可平均降低 40% 推理成本
round · x · 2026-08-22
Ramp 正式发布了 LLM 网关产品 Router。该产品旨在通过将每个请求匹配到满足性能需求的最低成本模型，来降低推理成本。官方宣称平均可降低 40% 的 AI 成本。
核心功能与特性：
- 统一接入：通过一个 API Key 接入所有模型，统一账单。
- 智能路由：自动切换模型以节省成本，支持自动模式。
- 成本优化：案例显示某客户通过 Router 运行数十亿 Token，模型成本降低了 92%。
- 兼容性：支持闭源与开源模型，托管于美国，提供零数据保留（ZDR）选项。
该产品主要面向 CTO 和 CFO，兼顾工程最佳模型选择与财务成本控制。
「Infra」频道最新
- 黄仁勋做客 BG2 播客:谈 AI 收入能否撑起 Capex 与 2027 瓶颈 — elonmusk · 2026-10-16
- Mistral 本地推理基建机架曝光:DGX Spark、Mac Studio 等混搭 — gregmushen · 2026-10-16
- 英伟达携手瑞典 Wallenberg，Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16
- Cerebras 用异构 prefill 池喂晶圆级引擎，解码速度与 batch 解耦 — ai · 2026-10-16