桌面智能体 Coco 端侧部署优化:KV 缓存命中率 26.7% 提升至 45.2%

EchoShao8899 · x · 2026-11-16

EchoShao 介绍 Coco——一个主动式桌面智能体——如何在端侧实现深度个性化部署,兼顾隐私与持续学习。

Coco 的持续学习闭环:

端侧部署策略:

实测(DGX Spark 回放):KV-cache 命中率从 26.7% 提升到 45.2%;配图还显示 TTFT 在 Qwen3.5-9B(RTX 5090)与 35B-A3B-FP8(DGX Spark)上从 0.96s/1.75s 分别降至 0.55s/0.94s。

所属事件:韩松等团队发布桌面主动智能体 Coco 与 Deep Personalization(6 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →