烧掉 15 亿 token 后复盘：Rankpilot 把 API 月成本砍掉 65%

Careful-Key-1958 · reddit · 2026-09-19

SEO 工具 Rankpilot 创始人 Borut 分享了团队月耗约 15 亿 OpenAI token 后的成本优化复盘，最终月成本降约 65%，响应更快、输出质量反而更好。关键教训：

先度量再优化：所有调用曾共用一个 API key，看不出哪个功能在烧钱；改为按功能打标并记录 token 与成本。
一半的"AI 调用"不需要 AI：如判断 title 标签是否超 60 字符这类问题用正则/解析器即可，先跑确定性检查，只把语气、意图匹配等模糊问题交给模型，省下约 5% 调用。
小模型级联：小模型先答并返回置信度，不确定或未过校验才升级到大模型，实际仅约 5% 请求升级。
内容哈希去重：页面内容不变就跳过重分析，是最大收益之一。
裁剪输入：剔除导航栏、cookie 横幅等，只取正文并限制长度。
小规模 eval 集：每次改动前用手工标注的 20 个样例对比，两次避免上线悄悄变差的便宜方案。
修复重复计费：超时重试导致原始请求仍在计费，账单近乎翻倍；加入幂等键、指数退避和重试硬上限。

「编程与Agent」频道最新