开源 chaff 框架重构群聊 Agent:输出 token 省 89%,缓存命中率 0 到 55%

uriwa · reddit · 2026-11-22

作者基于在真实消息渠道和语音通话中运行 prompt2bot 的经验,开源了 MIT 协议的多方对话 Agent 框架 chaff(@uriv/chaff)。核心观点:主流 agent harness 都假设单用户轮流对话,一旦放进 WhatsApp/Telegram 群聊或实时电话就会崩溃。

关键设计:

实测数据:在 ClawBench 上对比 Pi,砍掉启动与旁白冗余后输出 token 降 89.2%(944 vs 8,711),总 token 降 51.4%;tau-bench Retail 上确定性历史前缀把 prompt cache 命中率从 0% 提到 55.2%。

所属事件:开源多方对话 Agent 框架 chaff 省 89% 输出 token(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →