三步将任意大模型封装为本地 OpenAI 兼容接口

JeremyCMorgan · x · 2026-08-08

开发者 Jeremy C Morgan 分享了一个实用的工程技巧：仅需三条命令，即可将 LLM 插件集合中的所有模型（无论是本地运行还是通过 API 调用）转换为运行在 localhost 上的、兼容 OpenAI Chat Completions 格式的端点。

这对于测试那些仅支持 OpenAI 接口标准的工具非常有用，允许开发者将其无缝对接到任何实际想要使用的后端模型上。该功能基于 simonw/llm-chat-completions-server 项目实现。