AI 网关开发实录：5 个「OpenAI 兼容」的谎言与踩坑

respan-81 · reddit · 2026-10-24

一家做 AI 网关（统一 chat/图像/语音/视频）的团队分享了实测各家「OpenAI 兼容」接口时踩到的 5 个坑：

OpenAI 和自己都不兼容：从 gpt-5.4 起 Chat Completions 拒绝在同一请求里同时带 reasoning 和 function tools；5.6 起模型默认推理，发工具就报错
负价格：OpenRouter 用 "-1" 表示价格未知，被当成数字解析后，「路由到最便宜模型」永远选中这些每 token 负一美元的模型
finishreason 语义漂移：强制 toolchoice 时 OpenAI（和 Gemini）返回 "stop" 而非 "toolcalls"，靠 finishreason 驱动的 agent 循环永远不执行工具
流不结束：某些服务器从不发 [DONE]，无法区分正常结束和断流；Gemini 有时中途停止且无 finishReason，半截回答被当完整结果使用
thought signature 只签第一次：Gemini 3 给函数调用附加 thought signature 并要求回传，但一回合的多个并行调用只签第一个，客户端重建历史时丢失会导致下一请求 400（ADK #3705）

网关部分开源：respanai/respan-gateway（Rust 单二进制，174 star）。

「编程与Agent」频道最新