You.com 推出 Inference Router:开源模型企业级推理,SLA 99.9%
Zai_org · x · 2026-10-23
You.com 发布 Inference Router,面向企业按需提供主流开源权重模型的推理服务,宣称最低 99.9% 正常运行时间 SLA、零数据留存(ZDR)、美国本土托管、内置联网搜索,且不收平台费,声称推理成本最高可降 75%。
已列出的模型包括 Kimi K3、GLM 5.3、DeepSeek V4.1 Flash、Qwen3.8 Flash、Meta Muse Spark 1.3、Mercury 3 等,按工作负载分类(编码与 Agent、长上下文、高吞吐、思考型)。客户证言称推理账单一半被砍掉、Agent 响应延迟改善、停机时间少于闭源模型 API。
所属事件:You.com 发布 Inference Router：企业级开源模型推理服务(6 条相关)→
「Infra」频道最新
- NVIDIA HGX Rubin NVL8 亮相 GTC 柏林：单价 120 万美元，能效比 B200 高 10 倍 — thursdai_pod · 2026-10-23
- 亚马逊放弃弗吉尼亚 122 英亩园区四座数据中心建设计划 — GaryMarcus · 2026-10-23
- 平台成粮仓，API key 成战利品：Railway、Fireworks、LiteLLM 月内接连被掠 — ccerrato147 · 2026-10-23
- Koi 论文：自校准规划器提升异构推理集群 goodput 18%、省 20% 成本 — burny_tech · 2026-10-23
- Inco 开源 DFlash 2 drafter:MiniMax M3.1 Flash 生成无损提速 3.5 倍 — Lianhuiq · 2026-10-23
- Cloudflare CEO 预言:五年内 agent 流量将是人类的 1000 倍 — 4KTV · 2026-10-23