开源 llm-mock:CI 无需真实 API key,mock 四大 LLM 接口且响应确定化
OkSkirt1039 · reddit · 2026-11-22
开发者为解决「LLM 相关测试要么把真实 API key 放进 CI(付费且不稳定),要么手写 mock 与真实返回脱节」的问题,开源了 llm-mock——一个说真实线上协议的 mock 服务器,保留官方 SDK、只改 base URL 即可使用。
功能要点:
- 支持 OpenAI、Anthropic、Gemini(AI Studio 与企业版)、Azure OpenAI 四家,各自独立 URL 前缀
- 覆盖 chat completions、Responses API、Messages API、generateContent、tool calls、embeddings、files、batches、token 计数与 SSE 流式
- 确定性:同请求恒返回同响应(ID 用内容哈希、embedding 由哈希播种),快照与断言稳定
- 无状态:重启与多副本行为一致
- 默认回显最后一条消息;通过请求头可精确设定回复内容、tool calls 或内容过滤判定
- 返回各厂商真实的错误格式(无效 key、未知模型、校验错误),可测异常路径
技术栈 Bun + TypeScript,MIT 协议;提供 Docker 镜像和免费托管实例 api.llm-mock.dev。作者明确其定位:不生成智能内容、不适合评估 prompt 质量,只用于测试模型周边的管道逻辑(重试、流式解析、tool-call 处理、错误处理)。
「编程与Agent」频道最新
- 独立开发者发布 SteerCamp:AI 时代「把事做成」的个人工作台 — pramodk73 · 2026-11-22
- FrankenRobotics:AI智能体运营的机器人实验室,一次批量生成256个设计 — doodlestein · 2026-11-22
- Midjourney+Seedance 2.5 经 Higgsfield MCP 串出 AI 微电影《The Wow Lunch》 — azed_ai · 2026-11-22
- Muse Code CLI vs AFK Pilot vs T3 Code 三款Meta编码CLI横评 — PawelHuryn · 2026-11-22
- 用户误用 Astra-6.2 遭骂偷懒,争议焦点竟是没开 goal 模式 — alexisgallagher · 2026-11-22
- David Hoang 预测:2026 假期大家都在折腾本地模型 — davidhoang · 2026-11-22