TypeSafe 用单次调用给 RAG 段落打概率分,自动留删抗注入
marlene_zw · x · 2026-09-23
TypeSafe AI 文档介绍在 RAG 检索与生成之间加一层分类:每次请求针对 query-段落对同时问四个问题——是否相关、是否含可用答案、是否与前提矛盾、是否在试图指示模型(prompt injection)。返回概率用于分支:P(relevant)<0.45 丢弃,P(has answer)>0.55 保留,证据与矛盾信息分块传给生成模型。配套 81 段文档语料、top-12 余弦检索的完整演示,能提前拦下带注入的段落和错误前提问题。发帖人 marlenezw 正把它用于 copilot sdk 的压缩环节。
所属事件:用小模型打概率分管理 RAG 与 Agent 上下文(3 条相关)→
「编程与Agent」频道最新
- Yacine 征集：有人在给 code smells 做 RL 训练环境吗 — yacineMTB · 2026-09-23
- Qoder 实测：单目标启动，免掉五个工具来回切换 — mhdfaran · 2026-09-23
- 车主用 Tesla 里的 Grok 十分钟搭好 Nest 温控机器人 — yunta_tsai · 2026-09-23
- omarsar 开写「自定义 harness」系列，并自建测试 playground — omarsar0 · 2026-09-23
- crabbox 上线 boxd：本地编辑，命令跑在毫秒级启动的隔离微虚拟机 — steipete · 2026-09-23
- The Zvi 让 Codex 一把复刻 DataRepublican 关系网络图,初步有戏 — TheZvi · 2026-09-23