MorrowCache 开源:语义判重代理让改写问法不再重复付费

TurnoverSea9119 · reddit · 2026-09-26

作者发布 MorrowCache(可 npx @kushalicious/jevcache@latest 直接试用):本地 OpenAI 兼容代理,缓存命中靠「裁判」模型做真实意图判断而非 embedding 相似度。命中改写问法直接复用答案,未命中才调上游模型;裁判失败则 fail-open 保证可用。裁判可选云端 Jev 或本地 Kev / Laya / System One(ADJUDICATOR 环境变量切换)。实测:改写问法从 2817ms 的 miss 变为 423ms 的 hit,约 6.7 倍提速,省 token 费用。附网站、GitHub 仓库,征集压测反馈。

所属事件:MorrowCache开源:语义判重代理避免改写问法重复付费(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →