Liquid AI 发布 RIPL 推理引擎，端到端延迟低于 50ms
kalyan_kpl · x · 2026-10-23
Liquid AI 官方宣布推出 𝙻𝚒𝚚𝚞𝚒𝚍 𝚁𝙸𝙿𝙻(Real-Time Inference Pipeline)，一个为实时工作负载设计的超低延迟推理引擎，旨在把 LFM 模型直接嵌入搜索、广告、风控、推荐、支付等实时请求链路。
关键参数：
- 端到端完成生成响应耗时 低于 50ms
- 持续峰值负载下仍保持低延迟
- LFM 在 RIPL 上最高加速 20 倍
- 支持多模态 LFM 与 d1 决策模型
RIPL 优化了从请求到达至完整生成响应的全链路；官方称流量越高，对最慢请求的性能优势越明显，并展示了多个生产环境用例。
「Infra」频道最新
- You.com 发布 Inference Router：一行代码接入 Kimi K3 等开源模型，宣称降本 75% — RichardSocher · 2026-10-23
- You.com Inference Router 一行代码切换:已接入 Kimi K3、GLM 5.3、Qwen3.8 等 — RichardSocher · 2026-10-23
- You.com 推企业级 Inference Router:99.9% SLA 免平台费 — RichardSocher · 2026-10-23
- Together 推出 Post-Training 服务,Deel 数小时上手同一 GPU 跑 5 个 RL 实验 — togethercompute · 2026-10-23
- 安全必须左移：补丁已出仍遭利用，全球协同成本正在爆发 — fforres · 2026-10-23
- Berth 开源:一张 RTX 4090 在聊天模型、ComfyUI 和游戏间按需租借 — Distinct-Pie2389 · 2026-10-23