开源多方对话 Agent 框架 chaff 省 89% 输出 token
作者基于在真实消息渠道和语音通话中运行 prompt2bot 的经验,开源了 MIT 协议的 TypeScript 多方对话 Agent 框架 chaff(npm 包 @uriv/chaff)。实测显示,与主流做法相比,同一模型可节省约一半 token,输出 token 减少达 89%,提示缓存命中率从 0 提升至 55%,显著降低多轮群聊场景的运行成本。
2026-11-22 ~ 2026-11-22 · 2 条相关
- 开源 chaff 框架重构群聊 Agent:输出 token 省 89%,缓存命中率 0 到 55% — uriwa · 2026-11-22
- 同一模型省一半 token:开源 TypeScript agent 框架 chaff 实测 — uriwa · 2026-11-22