RandSlot 用随机软 token 把视觉文档压缩成 4 个向量
_reachsumit · x · 2026-09-29
论文提出 RandSlot:在训练时向 query 和文档输入序列追加独立采样的随机单位向量(每次使用都重新采样,不引入可学习参数),让编码器在多变输入条件下仍能提取关键信息,从而将视觉文档检索的每页压缩到仅 4 个向量。采用标准 late-interaction 目标训练,在相同向量预算下检索质量优于其他读出策略。
有趣的是,分析显示推理时把随机软 token 替换为零,这些增益依然存在——说明训练期的随机输入本身就能改善紧凑检索表示。
「研究」频道最新
- VISPA 无需训练实现价值多元对齐，入选 EMNLP 2026 口头报告 — preslav_nakov · 2026-10-25
- Apple 与 CMU 提出 SSR:推理延迟降 90% 的多模态搜索智能体框架 — jiqizhixin · 2026-10-25
- PhishNChips 钓鱼检测被一个启发式打穿:只查是否免费托管 — antoine_chaffin · 2026-10-25
- AfriScience-MT 发布:六种非洲语言科学翻译语料库 — davlanade · 2026-10-25
- 用 RFD4 Proteina 生成血脑屏障受体 CD98hc 结合蛋白,ipTM 达 0.88 — AllThingsApx · 2026-10-25
- DeepMind 等新基准：AI agent 解出 49/50 研究级物理题 — rohanpaul_ai · 2026-10-25