You.com 发布 Inference Router：一行代码接入 Kimi K3 等开源模型，宣称降本 75%
RichardSocher · x · 2026-10-23
You.com 创始人 Richard Socher 宣布推出 Inference Router，面向企业的开源模型推理服务：改一行 base URL，现有 OpenAI 兼容代码即可切换，无需平台费。
要点：
- 接入 Kimi K3（Moonshot，1M 上下文，可开关最大思考档）、GLM 5.3（Z.ai）、DeepSeek V4.1 Flash、Qwen3.8 Flash、Meta Muse Spark 1.3 等多款领先开源/开放权重模型
- 承诺至少 99.9% 在线率 SLA、零数据保留（ZDR）、100% 美国托管
- 宣称推理成本最高降 75%；客户证言称推理账单一半省掉、agent 延迟改善、停机少于闭源 API
- 定位：给需要长时运行 agent 与高吞吐工作流的企业做按需推理路由
所属事件:You.com 发布企业级推理服务 Inference Router(4 条相关)→
「Infra」频道最新
- 开源 RL360:8192 并发沙箱支撑 130 万次长程 Agent RL 训练 — rupspace · 2026-10-23
- IFM 团队开源 RL360：支撑 K2 Horizon 训练的大规模 Agent RL 基础设施 — rupspace · 2026-10-23
- 黄仁勋回应 NeoCloud 融资担忧：需求高企，营运资本自会到位 — inductionheads · 2026-10-23
- 开发者称 CPU 算力也成瓶颈：110% 被算力约束，难在管理而非买不到 — rakyll · 2026-10-23
- 开源无损模型权重压缩器:微调包最高压到原大小 0.1% — overdoingism · 2026-10-23
- 自研推理引擎卡在速度墙:作者纠结 FP32 高精度到底值不值 — ZenZombie117 · 2026-10-23