Ramp 开放模型路由器,称可让 LLM 成本降 30%
damianplayer · x · 2026-07-21
Ramp 介绍了自己的 Ramp Router:它会根据不断变化的“价格 / 智能 / 延迟”三角关系,在不同模型之间做路由,帮助团队在不重写应用的情况下切换更合适的模型。
该公司称,这套系统已在内部 100 多个用例中使用,帮助他们把 LLM 成本降低 30%,同时让功能更聪明、响应更快。Ramp 还表示,这套能力最初为自家产品所建,如今已向所有人开放。
所属事件:Ramp 开放内部多模型路由器,称可降 30% LLM 成本(11 条相关)→
「Infra」频道最新
- huggingface_hub 2.3.0 发布:百万文件列取从分钟级降到 20 秒 — lhoestq · 2026-10-27
- 手握超 1300 亿美元现金的 AI 公司 IPO,为后来者立下离谱先例 — signulll · 2026-10-27
- 不用树莓派,一块 ESP32-S3 让 USB 打印机变 AirPrint — ngxson · 2026-10-27
- Michael Dell 称马斯克是最难伺候的客户,Colossus 六周建成换来回购 — elonmusk · 2026-10-27
- Tenstorrent 融资 15 亿美元,估值 62 亿较去年翻倍以上 — Beth_Kindig · 2026-10-27
- 前 MediaTek 专家访谈:Google TPU 外销今年约 80 亿美元,2028 年看 1040 亿 — RihardJarc · 2026-10-27