开发者用 Jev 决策模型打造框架无关的 Agent 工具路由器
Huzeyfe_dev · reddit · 2026-09-25
开发者 Huzeyfedev 发布了开源 Python 库 jev-route(v0.2.0),解决 agent 架构中每一步都用大生成式 LLM 决策工具调用导致的慢与贵问题。
核心思路
- 基于 TypeSafe 新发布的 "System One" 决策模型 Jev(typesafe/jev-1.13),该模型返回带类型的 Choice 和 Score 原语而非生成文本,速度极快。
- jev-route 作为轻量、框架无关的路由层,可插在 LangChain、CrewAI 或自定义 agent 循环前面,毫秒级完成意图分类与工具路由。
- 内置信度门槛:当 Jev 置信度低于阈值时自动回退到主 LLM 处理。
- 异步优先,依赖极简(仅 httpx 和 pydantic),附单元测试和示例。
作者开源了代码并征求反馈,这是一个把小模型快速决策与大模型兜底组合起来的典型 agent 降本提速方案。
「编程与Agent」频道最新
- Pydantic 团队开源 Monty:Python 沙箱 1 毫秒启动,1 万脚本仅 674ms — samuelcolvin · 2026-09-25
- Ben Lorica:Agent 时代数据栈不再宽容,陈旧数据直接变成错误动作 — bigdata · 2026-09-25
- Bending Spoons 99% AI 流量跑自托管开源模型,靠 evals 省钱 — alex_verem · 2026-09-25
- freebots 接近千个 AI 机器人:136万行代码全由 AI 生成 — Daniel_Farinax · 2026-09-25
- 阶跃 Step-5-Preview 实测:输出极稳,擅长 Agent Loop 打磨细节 — karminski3 · 2026-09-25
- DSPy 3.4.0 发布:原生支持 Jev,新增 ReAnchor 置信度校准优化器 — dbreunig · 2026-09-25