新协议压缩 agent 历史 71.9%,欲让树莓派跑 3B 模型

Parallel_News · reddit · 2026-08-16

作者开发了 MusCoRe 协议,用颜色频率 Token 替代原始文本来压缩 Agent 对话历史。测试显示该协议能将 24 轮对话历史的 Token 数减少 71.9%。其核心目标是解决 KV Cache 数据量过大导致的内存带宽瓶颈,从而实现在树莓派 5 或 N100 这类 CPU-only 设备上运行 3B-7B 模型的 Agent 工作流。作者正在征集拥有相关硬件的用户运行基准测试以验证这一推测。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →