开源多方对话 Agent 框架 chaff 省 89% 输出 token

作者基于在真实消息渠道和语音通话中运行 prompt2bot 的经验,开源了 MIT 协议的 TypeScript 多方对话 Agent 框架 chaff(npm 包 @uriv/chaff)。实测显示,与主流做法相比,同一模型可节省约一半 token,输出 token 减少达 89%,提示缓存命中率从 0 提升至 55%,显著降低多轮群聊场景的运行成本。

2026-11-22 ~ 2026-11-22 · 2 条相关