System 1 小模型的 9 个用法：重排、路由、缓存判定全用得上
udmrzn · x · 2026-09-19
转发帖列出 Jev 这类 System 1 小模型在 agent 与 RAG 栈中的 9 个用途：
- 重排（Re-ranking）：按相关性打分并重排检索结果
- 工具剪枝：在上下文压缩时剔除未用工具
- 模型路由：把任务分给小/中/大 LLM
- 查询路由：决定走 SQL、向量库还是图数据库
- 缓存准入：筛选值得缓存的响应
- 缓存 TTL 预测：估计缓存结果的有效期
- RAG 检索控制：拦截无关检索文档
- 人工升级：判断何时从 AI 切换到人工
- 动作选择：为 agent 的下一步动作打分择优
核心思路是用一个便宜快速的模型承担这些细粒度判断，替代纯规则或昂贵的旗舰模型调用。
「编程与Agent」频道最新
- 开发者称 Jev 最实用场景是快速训练自有分类器 — triviatroy · 2026-09-19
- OpenWA：14k 星开源 WhatsApp API 网关，自托管多会话管理 — tom_doerr · 2026-09-19
- 开源电脑操作模型 CUA-S1 发布,首个表单专精模型可自用 — ycombinator · 2026-09-19
- 单条 prompt 生成 3D 平台游戏：Astra 编排 Thrixel 管线产出可编辑素材 — RanaHanocka · 2026-09-19
- OpenDDE 将结构预测与蛋白质设计插件带入 Codex 和 Claude Code — AllThingsApx · 2026-09-19
- 长文辨析世界模型：Agent 需要的不是 RAG 而是状态追踪 — techNmak · 2026-09-19