MorrowCache 开源:语义判重代理让改写问法不再重复付费
TurnoverSea9119 · reddit · 2026-09-26
作者发布 MorrowCache(可 npx @kushalicious/jevcache@latest 直接试用):本地 OpenAI 兼容代理,缓存命中靠「裁判」模型做真实意图判断而非 embedding 相似度。命中改写问法直接复用答案,未命中才调上游模型;裁判失败则 fail-open 保证可用。裁判可选云端 Jev 或本地 Kev / Laya / System One(ADJUDICATOR 环境变量切换)。实测:改写问法从 2817ms 的 miss 变为 423ms 的 hit,约 6.7 倍提速,省 token 费用。附网站、GitHub 仓库,征集压测反馈。
所属事件:MorrowCache开源:语义判重代理避免改写问法重复付费(2 条相关)→
「编程与Agent」频道最新
- Agent 时代核心手艺:Harness 工程全景解析 — techNmak · 2026-09-26
- 用 Gemini 把 PTX 手册转 Markdown,图片全变 ASCII 艺术 — bingxu_ · 2026-09-26
- Merge 实测:自研 MCP 连接器任务正确率持平或胜公共 MCP — shensi · 2026-09-26
- 先定维度再生成:Hamel 讲 evals 合成数据的正确姿势 — HamelHusain · 2026-09-26
- starrocks-mcp 开源:用 Claude 直接查询 StarRocks 数据库 — modelcontextprotocol · 2026-09-26
- AI Trips 通过 MCP 工具实现 AI 协作式旅行规划 — modelcontextprotocol · 2026-09-26