一个自托管代理把 424 个模型接到同一接口
ranadheer535 · reddit · 2026-07-27
这条帖介绍了一个自托管代理项目 puter-api-proxy，它把 424 个 AI 模型统一到一个 OpenAI 兼容接口里。
- 作者称它可以直接接入 Claude Opus 5、GPT-5.6、Gemini 3.5、Grok 4.5、DeepSeek V4、Qwen3 等模型。
- 核心能力是自动 fallback：某个模型失败后，会立刻切到下一个。
- 它还宣称可兼容 Claude Code、Cursor、Aider、Cline 以及任何 OpenAI client。
- 部署方式是 Docker 一条命令，另外还带分析仪表盘。
- 帖子最吸引人的点，是它把“多模型聚合 + 自托管 + 部分免费”打包成了一个开发者可直接试的方案。
「Infra」频道最新
- Triton 后端让 Falcon3-10B 在 RTX 5070 跑到 97.5 tok/s — OCV_Researcher · 2026-07-27
- Sparrow 标准模式改用 Ministral 3 14B 做本地抽取 — andrejusb · 2026-07-27
- Wistron 在德州投产 7 亿美元工厂，量产 Nvidia GB300 与 Vera Rubin — Beth_Kindig · 2026-07-27
- BeeLlama.cpp 新增 KV cache 精度尾段和量化档位 — Anbeeld · 2026-07-27
- 本地跑 1 亿 token 的 GLM 5.2 只花 1 美元 — _akhaliq · 2026-07-27
- Cloudflare 的 AI training 拦截可能连 Googlebot 也挡住 — daluoseo · 2026-07-27