MAGIC 用最优传输免训练压缩多向量检索,激进压缩下收益最大
_reachsumit · x · 2026-09-21
针对 ColPali 等视觉文档检索(VDR)系统中多向量页面嵌入带来的存储与 MaxSim 打分开销,论文提出 MAGIC:一个免训练的事后压缩器。
- 核心思路:事后合并的均匀重建目标与 late-interaction 检索的稀疏、非均匀 patch 使用模式不匹配,激进压缩下会保留很少使用的 patch、却让检索集中在过少的代表上。
- 方法:推导 MaxSim 诱导的压缩代理目标,用双边熵正则最优传输求解——一个「检索需求」源边际优先保留高使用 patch,一个均衡目标边际正则化保留面片的使用。
- 效果:在多个 ViDoRe 基准、压缩比和检索骨干上一致优于强事后压缩基线,激进压缩区间收益尤其大;消融验证两个边际的互补作用。
「研究」频道最新
- FRAUDSkill 冻结权重外挂技能优化,语音反诈 Macro-F1 提升至 73.5% — PPSUCTeleantifraudCommunity · 2026-09-21
- TeleAntiFraud 2.0 月度冻结基准:分类器遇近域负例 F1 从满分跌至 0.65 — PPSUCTeleantifraudCommunity · 2026-09-21
- Vector Institute 提出 MoME:上下文感知记忆嵌入,用混合槽位消除词义坍缩 — vector-institute · 2026-09-21
- 用 bootstrap 子集拟合性能锥,Ville 不等式检验模型排名交叉 — PTenigma · 2026-09-21
- 实验室负责人被指文风有 AI 痕迹,撰文谈 AI 辅助写作该评什么 — furongh · 2026-09-21
- 人机协作破解社会选择理论 30 年公开难题:核心稳定性委员会必存在 — xuanalogue · 2026-09-21