YC W24 开源 Respan:Rust 插件化 AI 网关,抛弃 10 万行 LiteLLM 包装
Andydy25 · hn · 2026-10-20
Respan(YC W24)在 HN 发布开源的 Rust AI 网关,采用「小核心 + 插件」架构:provider、协议(MCP、语音)、模态(图像/视频)和网关功能(fallback、PII 脱敏、智能路由)全部以插件形式实现,用户可在不改动核心的情况下自行组装所需能力。
- 团队自 2024 年起基于 LiteLLM 构建网关,服务数千家组织,包装代码一度超过 10 万行
- 今年 1 月一次例行的 LiteLLM 升级引发间歇性连接错误,被迫回滚且始终未查明原因,此后只能手动 backport 上游修复
- 受 Nginx 启发,他们将核心缩小到只负责事件分发,其余功能全部插件化,以解决「为加功能再造一个网关」的行业痛点
「编程与Agent」频道最新
- 程序员用 5 个并行 Agent 破解各品牌摄像头,3587 次 commit 造家庭版 Anduril — doodlestein · 2026-10-23
- Vercel 推出免注册部署:拖拽文件到首页即得线上 URL — steren · 2026-10-23
- 5 个 Claude Code 会话经 MCP 互发邮件,组队攻破多品牌网络摄像头 — doodlestein · 2026-10-23
- Vercel 上线 vercel deploy --temporary,可临时部署后自动清理 — cramforce · 2026-10-23
- 用同一个 Notion 工作区让多个 Agent 互相沟通分工,实测有效 — nbaschez · 2026-10-23
- 实测 12 个 AI 分类器后,作者直言「分类器新热是cosplay」 — KlausCodes · 2026-10-23