开源 ftouter:免费档 LLM API 静默挂掉时自动切换备选模型

Puzzleheaded_Bus925 · reddit · 2026-09-23

做免费档 LLM API(Groq、OpenRouter、Mistral)副业项目时,作者常遇到模型突然被限流、弃用或下线,应用在生产环境直接崩溃。

他开源了 Python 包 ftouter,夹在应用与多个 provider 之间:某个模型失败时自动回退到下一个可用模型,并给出可读的失败原因(限流、弃用、key 无效、服务器错误)而不是原始 traceback。

项目仍处早期,目前仅支持 Groq/OpenRouter/Mistral 三家,GitHub 与 PyPI 均可获取,pip install ftouter 即可使用。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →