Sentence Transformers v6.3：token 池化感知训练大幅压缩多向量检索
Sentence Transformers 维护者 tomaarsen 发布 v6.3.0，核心更新是为多向量（ColBERT 式 late interaction）嵌入模型带来 token pooling 感知训练与 kernel 加速，并配博客与教程线程说明用法。该方法在训练阶段就让多向量模型学会配合 token pooling，在压缩文档向量后仍保持检索质量，同时开源了训练代码、checkpoints 与评测结果。该版本还悄然加入对多向量模型的 Matryoshka（MRL）感知训练支持，可将 token 向量降到 16 维仍保持可用。
已确认
- 多向量模型为每个 token 保留一个向量，让不同查询 token 匹配文档不同部分，但向量数量累积庞大；token pooling 通过层次聚类将相似文档向量合并为簇均值，从而压缩存储
- tomaarsen 用同一批 120k MS MARCO 三元组训练两个 ModernBERT-base 模型，仅改变损失函数设计：pooling-aware 训练使压缩后的模型仍保持检索质量，49 个向量达到 193 向量 97.8% 的检索质量
- 整体上文档向量节省 84.7%，检索分数仅下降 2.7%
- 该工作建立在 Stefan Joger 的工作之上，博客展示了训练方法、代码、checkpoints 与评测结果
- tomaarsen 分享实验观察：token pooling 与（非对称）嵌入量化组合使用效果很好，也能与 Matryoshka 表示学习搭配（Matryoshka 损失更大）；近期的 MRL 支持使多向量模型 token 向量可降到 16 维仍可用
- tonywu71 补充指出，token pooling 已能在 ColPali、NeoMME 等 late-interaction 多模态检索中实现极高压缩，配合 pooling-aware 训练还能更进一步
为什么重要
- 多向量检索质量好但存储与计算成本高，是落地的主要瓶颈；该版本把压缩能力直接做进训练流程，仅靠损失函数改动即可大幅降低成本，且可与量化、Matryoshka 等已有压缩手段叠加，对生产环境的多向量与多模态检索系统有直接实用价值。
2026-11-11 ~ 2026-11-12 · 11 条相关
一手来源
- Sentence Transformers v6.3 发布：新增 token pooling 感知训练 — tomaarsen ·
- 仅改损失函数：49 向量达到 193 向量 97.8% 检索质量 — tomaarsen ·
- sentence-transformers 支持 MRL 训练，token 向量降到 16 维仍可用 — tomaarsen ·
- 【源头】Sentence Transformers v6.3 发布：新增 token pooling 感知训练 — tomaarsen · 2026-11-11
- Sentence Transformers v6.3 详解：token pooling 原理 — tomaarsen · 2026-11-11
- 【源头】仅改损失函数：49 向量达到 193 向量 97.8% 检索质量 — tomaarsen · 2026-11-11
- sentence-transformers v6.3 发布：token 池化感知训练，文档向量省 84.7% 只掉 2.7% 分 — tomaarsen · 2026-11-11
- sentence-transformers 作者开源 embedding 池化训练方法与代码 — tomaarsen · 2026-11-11
- tomaarsen：token pooling 与嵌入量化、Matryoshka 兼容性出色 — tomaarsen · 2026-11-11
- pooling-aware 训练让 late-interaction 检索向量砍到 1/4 精度反升 — lateinteraction · 2026-11-11
- token pooling 与嵌入量化、Matryoshka 组合使用效果出色 — antoine_chaffin · 2026-11-12
- 【源头】sentence-transformers 支持 MRL 训练，token 向量降到 16 维仍可用 — tomaarsen · 2026-11-12
另有 2 条近重复转述:CShorten30 · antoine_chaffin