Ramp 开放 AI 模型路由器，内部 LLM 成本降了 30%
welcome_recreation · reddit · 2026-07-21
Ramp 正式开放了自己内部用多年的 AI model router，并称这套系统让其 LLM 成本下降了 30%。
- 对外提供的是一个 OpenAI-compatible endpoint，会根据不同请求自动在 GPT、Claude、Gemini、Grok、Qwen、DeepSeek 等模型之间做选择。
- Ramp 说这套路由已经覆盖 100+ 个用例，可以在 成本、延迟、质量 之间动态权衡，而不必重写应用。
- 他们的目标是避免“为了便宜牺牲智能”或“为了智能花过头”。
所属事件:Ramp 开放内部多模型路由器 Ramp Router(11 条相关)→
「Infra」频道最新
- 1GW 中国 AI 数据中心为何并非不可能 — teortaxesTex · 2026-07-22
- 中国 AI 军备竞赛正被芯片、数据中心和开源模型定义 — BenBajarin · 2026-07-22
- Agent 搜索瓶颈正在从速度转向延迟稳定性 — rohanpaul_ai · 2026-07-22
- Gavin Baker：Nvidia 可能是开源 AI 最大支持者之一 — GavinSBaker · 2026-07-22
- AI 算力需求刺破美国能源缺口，呼吁打破稀缺重建产能 — bradneuberg · 2026-07-22
- Gavin Baker 指出，6300 亿美元是系统收入，不全归 Nvidia — GavinSBaker · 2026-07-22