Ollama 上线决策模型:Nimble 本地 91ms 出一次判断
ollama · x · 2026-09-30
Ollama 在 0.35 版本新增 /v1/systemone 端点，支持 TypeSafe 的 Jev 风格决策模型，并同步上线三个可本地运行的新模型：
- nimble：Bespoke Labs 开源的 9B 决策模型，基于 Qwen3.5-9B 微调，Apache 2.0 协议。输入一段文本加一组命名问题，一次调用返回每个问题的答案及概率，无推理步骤、直接对答案 token 打分。支持单次请求最多 64 个问题，在 M5 Max MacBook Pro 上单次决策低于 100ms（官方实测平均 91ms）。
- tev1 4b / 0.8b：Together AI 的实验性决策模型。
决策模型适合工单分类、模型路由、内容/安全审核等需要快速结构化判断的场景。Bespoke Labs 公布的基准显示，在覆盖 13 个公开数据集、3880 次决策的人工标注评测中，Nimble 与 Tev1（Ollama 运行）与 Jev 1.13 准确率接近。模型用对比对训练：每对样本只差一个事实，而该事实会翻转答案。
所属事件:Ollama 0.35 上线本地决策模型，Nimble 单次决策仅 91ms(3 条相关)→
「编程与Agent」频道最新
- Wabi 创始人断言 GUI 时刻已至,纯终端 Agent 编排器出局 — julianweisser · 2026-09-30
- Muse 代卖物品给地址报价致买家上门,Agent 默认执行边界引争议 — sujingshen · 2026-09-30
- rsms 把 Figma 当编码 Agent 的「grounding truth」，替代设计文档 — floguo · 2026-09-30
- EpiCon:多智能体共享多模态记忆库,11 项基准平均提升 1.7-4.9 分 — Ziyun Zeng · 2026-09-30
- EngiWorld 基准:最强模型工程软件得分仅 44.3,跨软件任务成功率 3.6% — zhiman-ai · 2026-09-30
- xLLM 训练推理基础设施全套开源，含 xattn 与 xBridges — HongyiWang10 · 2026-09-30