开发者用 Jev 决策模型打造框架无关的 Agent 工具路由器
Huzeyfe_dev · reddit · 2026-09-25
开发者 Huzeyfedev 发布了开源 Python 库 jev-route(v0.2.0),解决 agent 架构中每一步都用大生成式 LLM 决策工具调用导致的慢与贵问题。
核心思路
- 基于 TypeSafe 新发布的 "System One" 决策模型 Jev(typesafe/jev-1.13),该模型返回带类型的 Choice 和 Score 原语而非生成文本,速度极快。
- jev-route 作为轻量、框架无关的路由层,可插在 LangChain、CrewAI 或自定义 agent 循环前面,毫秒级完成意图分类与工具路由。
- 内置信度门槛:当 Jev 置信度低于阈值时自动回退到主 LLM 处理。
- 异步优先,依赖极简(仅 httpx 和 pydantic),附单元测试和示例。
作者开源了代码并征求反馈,这是一个把小模型快速决策与大模型兜底组合起来的典型 agent 降本提速方案。
所属事件:开发者开源jev-route,用决策模型为Agent工具调用提速(2 条相关)→
「编程与Agent」频道最新
- Plurai 推出 Agent 仿真测试:让 agent 在数字孪生世界里先失败再修复 — PrajwalTomar_ · 2026-11-11
- PlayCanvas 引擎仓库突破第 10000 个 issue/PR 里程碑 — willeastcott · 2026-11-11
- AI 做的游戏太难:Claude 6 分钟通关,作者砍 40% 难度 — builderjaydub · 2026-11-11
- Anthropic 推出 Claude Tag,65% 产品代码由内部 AI 生成 — nikola_mr64990 · 2026-11-11
- 评测工作流核心:最大化专家每单位注意力的信息增益 — danshipper · 2026-11-11
- 开源 Node 把 ComfyUI 工作流变一键模型,内置 19 个工作流 — jefoce · 2026-11-11