决策模型 Jev 替代 LLM 选择步骤，实测省钱最高 87%
femke_plantinga · x · 2026-10-22
TypeSafe AI 的决策模型 Jev 专做「从列表中选一项」这类步骤：不给出生成文本，而是对允许的答案打分，直接返回选择、分数或 yes/no 概率，无输出 token 成本，单次决策约 70-500ms。作者列出 6 类适用工作流：
- 工单路由：从团队列表中选一，不确定的转人工；公开测试中比 Opus 5.5 便宜约 84 倍（77 个意图）
- 内容审核：每条政策一个 yes/no，灰区转人工；同测试中 6 个模型里审核得分最高
- AI 评审：每次 agent 运行都问「需要人看吗」而非抽样；Arize 评测约 0.4s/次，对比 LLM 评审约 10s
- Agent 安全门：工具调用前打风险分，LangChain 的 harness 已采用此模式
- 模型路由：标注请求难易，只有难题才到大模型
- 文档审计：问「这两段是否矛盾」，LLM 只读剩余部分；在其帮助中心 6 分钟找出 59 处矛盾
自用成本降 87%、速度快一倍。注意：在细致的质量打分场景它垫底，建议先在几百个真实 case 上与现有 LLM 并行对比再切换。
「编程与Agent」频道最新
- Newsletter 平台送达率 96.5%、打开率 42.7%,作者证伪 vibe coding — marclou · 2026-10-22
- 开发者自研 Obsidian 插件替代 Eagle,把笔记变成素材管理器 — jiayuan_jy · 2026-10-22
- iPhone 灵动键一键唤起 Hermes 智能体，开源方案 ConcoDispatch 走红 — Teknium · 2026-10-22
- 开源工具 Scrawl 爆火：录屏圈画说话，直接把问题丢给 AI agent — aronchick · 2026-10-22
- Nous Research Hermes Agent 让每次审批直接显示价格 — Scobleizer · 2026-10-22
- Agent 权限灰区:合法动作也该拦?拉谁最后防线引热议 — Innowise_ · 2026-10-22