SwirlAI 长文:Agentic RAG 系统中决策模型的九个插入点
blaizedsouza · x · 2026-11-20
SwirlAI Newsletter 作者 Aurimas Griciūnas 发表新文章,系统梳理「决策模型」(Decision Models)在 Agentic RAG 系统中的九个使用场景,附代码与可运行 notebook。
决策模型自 2026 年 9 月作为产品类别出现:输入状态(文本/JSON/图像)+ 在代码中声明的问题选项,直接返回概率分布,不含解释或推理,胜在延迟、成本和可靠性。市场上有 TypeSafe AI System One 和 OpenAI Decisions 两种 API 形态。
九个使用点:
- 模型路由:按任务难度分流到小/中/大模型
- Guardrails:对每类风险做独立是/否判断
- 检索充分性:判断检索结果够不够、要不要再搜
- 段落过滤与重排:逐段打分排序
- 引用核查:支持/矛盾/未涉及
- 工具调用门控:放行/升级/拒绝
- 循环终止:判断结果是否达标
- 另含 Context Compaction(上下文压缩摘要)与 Evals(按 rubric 判 trace 通过与否)
「编程与Agent」频道最新
- 低多边形 3D 地标开源仓库爆火,AI 生成桥梁地标持续扩充中 — tomjohndesign · 2026-11-20
- Agent 工具守则:不可撤销且外人可见的操作必须人工审批 — Beneficial_Use2116 · 2026-11-20
- 流传「Claude Code Harness 架构」长文:模型只是引擎,harness 才是整车 — blaizedsouza · 2026-11-20
- 解码更快不等于 agent 先跑完:prefill 速度决定胜负 — AIFlow_ML · 2026-11-20
- 「我已不再手动开 ComfyUI」:用 Claude 在容器里全自动跑图 — xWranglerWranglerx · 2026-11-20
- AI 从零写代码驱动真实机械臂下国际象棋,全程开源 — FinanceYF5 · 2026-11-20