智能路由实测:成本降65%且准确率不降
shensi · x · 2026-07-13
Merge API 对其网关的智能路由功能与固定使用旗舰模型进行了对比基准测试。 在超过 120 次配对试验中,智能路由的模型花费降低了 65%(从 8.17 美元降至 2.87 美元),同时正确率保持在 240 题答对 239 题的水平。
「Infra」频道最新
- FlashRT:利用智能体优化多模态应用部署,B200延迟降低70倍 — Krish Agarwal · 2026-07-21
- Reddit 用户设计四层本地 AI 机房:vLLM 到 OPNsense 全分层 — povedaaqui · 2026-07-21
- 现货内存价飙升 140%,合约重定价开始滞后 — tengyanAI · 2026-07-21
- 有人把 AI 使用方式指向异步长周期实验而非单买算力 — voooooogel · 2026-07-21
- PrismML Bonsai 27B 量化后仅 3.8GB 可手机运行 — tony10000 · 2026-07-21
- 有人主张给模型独立 micro VM,少用 tool calling — joecole · 2026-07-21