Nym 用超快分类模型 Jev 重构 agent,更快更便宜更可靠
moyix · x · 2026-09-21
Nym 团队分享了他们围绕 TypeSafe 新模型 Jev 重构自家 agent 决策层的实践。Jev 本质是一个超快分类器：输入状态、问题与候选答案，并行输出带概率和置信度的类型化决策，采用「强化学习校准决策」训练方式，而非逐 token 生成。
关键价值在于置信度分数：
- 可据此判断何时需要补充上下文
- 可对多个 Jev 请求做 ensemble
- 置信度低时再切换到大模型复核
这样可以用代码和自评估的阈值决定哪些决策全自动、哪些需要人工或大模型把关。相比传统做法（收集数据训练分类器，很快遇到分布外案例），直接描述所需决策即可使用。Nym 表示重建后降低了生成模型成本、提升了速度，同时保留了安全控制，适用场景包括 guardrails、工具选择等通用分类任务。
「编程与Agent」频道最新
- 开发者吐槽 GitHub 已成 AI 灌水「内部 DDoS」式噪音场 — MarkNeumannnn · 2026-09-21
- 开发者坦言：AI 编码当前最难的一环是理解代码 — BLUECOW009 · 2026-09-21
- GPT 几分钟把进程 CPU 占用从整核降到 12% — BLUECOW009 · 2026-09-21
- 开源 Jev 发布 11 小时即上生产,省下 12.7 万美元前沿模型 tokens — BLUECOW009 · 2026-09-21
- 播客观点:AI agent 管线正在花大钱构建「假人肉桥梁」 — thursdai_pod · 2026-09-21
- 独立开发者谈选项目心法:越冷门越亲力亲为,克制加功能 — menhguin · 2026-09-21