Apple提出RAG统一框架CLaRa
Apple ML Research · rss · 2026-07-15
Apple ML Research 提出 **CLaRa(Continuous Latent Reasoning)**,尝试把检索增强生成(RAG)里的“检索”和“生成”放到一个共享的连续潜空间里统一优化。 核心思路是用**基于 embedding 的压缩**把文档压成更短、但仍可检索的向量表示,从而减少喂给生成器的上下文长度;同时通过联合训练,让压缩表示既保留语义信息,也更适合检索。 论文还引入了 **SCP**,一种用于构造数据的框架,结合问答和 paraphrase 来生成**关键语义保真**的数据,帮助学到“可压缩、可检索”的向量。