宝玉详解主会话+Thread 架构:弱模型调度、强模型干活、玩转 Prompt Caching
dotey · x · 2026-11-16
针对「单主会话交互太耗额度」的问题,dotey 分享一套主会话 + Thread 的省 token 架构经验:
- 主会话用弱模型:它的职责是甄别、路由、调度,像公司前台,Sonnet 级别即可;Thread 子任务用强模型,更科学的做法是主会话按任务难度动态选模型(他自己用 Claude Project 时主会话 Sonnet、子任务 Opus)。
- Prompt Caching 策略分两类:主会话消息零散、难复用缓存——缓存过期后不要重发全部历史和工具调用,只发最近几条消息,配合 Session 检索工具补齐上下文;Thread 类会话集中、缓存命中率高——最佳策略是在缓存快过期时(如 1 小时缓存的第 50 分钟)主动压缩上下文,避免失效。
「编程与Agent」频道最新
- 阿里开源 AI 代码审查工具,GitHub 已斩获 5.2 万星 — abhishek__AI · 2026-11-16
- 阿里开源 AI 代码评审工具 open-code-review,GitHub 已 5.2 万星 — abhishek__AI · 2026-11-16
- Auto 权限模式痛点:Agent 逐文件索权而非按目录授权 — BenBlaiszik · 2026-11-16
- 马斯克演示 Grok Bot 自动剪辑 23 小时星舰直播集锦 — elonmusk · 2026-11-16
- 开源参数化 CAD SolidCraft 发布 0.42:支持 KiCad 导入与 MCP 接入 AI Agent — philfung · 2026-11-16
- OpenFill 分支新增 AI 选取与 MiniMax H3 编辑抠图 — shukanimator · 2026-11-16