Meta 提出 KVUse:用户画像存成可复用 KV 缓存,提升 LLM 推荐吞吐

_reachsumit · x · 2026-11-18

Meta 发布 arXiv 论文 KVUse,解决基于 LLM 的记忆增强推荐系统的服务效率问题。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →