pooling-aware 训练让 late-interaction 检索向量砍到 1/4 精度反升
lateinteraction · x · 2026-11-11
tonywu71 指出 token pooling 已能在 ColPali、NeoMME 等 late-interaction 多模态检索中实现极高压缩，配合 pooling-aware 训练还能更进一步。
引用 tomaarsen 的实验：用同样的 120k MS MARCO 三元组训练两个 ModernBERT-base 模型，只改 loss——pooling-aware 训练把每文档向量数从约 193 降到约 49，NanoBEIR@13 平均 nDCG@10 从 49.03 升至 51.23，保留未 pooling 版本 97.8% 的分数，而普通训练只能保留 94.6%。
所属事件:Sentence Transformers v6.3 发布：token 池化感知训练(7 条相关)→
「多模态」频道最新
- 量子恒温器自我组装成「无限屏保」,用 Gemini 4 Carbon 生成 — hapticdata · 2026-11-12
- Adobe Firefly 推出 Story Builder 工具，简化视觉叙事创作 — LudovicCreator · 2026-11-12
- Intangible 2.0 发布:图像视频 3D 模型整合进一个 AI 创作工作室 — umesh_ai · 2026-11-12
- 单张产品图生成间谍大片风广告，Agent 工作流展示创作潜力 — hey_abusiddik · 2026-11-12
- 用 LilyPond 提示词让 Claude 写出巴赫风格管风琴赋格 — IgorCarron · 2026-11-12
- 实测：MiniMax H3 出 4K 人像比 Seedream 5.5 出 2K 还快一半 — heyronir · 2026-11-12