Perplexity 发布 pplx-embed-v2 系列嵌入模型:18B 训练蒸馏至 0.6B

beirmug · x · 2026-10-08

Perplexity 官方发布 pplx-embed-v2-late 两个 late-interaction 嵌入模型,可统一检索文本、图片和网页截图,共享同一嵌入空间、支持跨模型查询,成绩达到前沿水平,已在 Hugging Face 公开。

团队成员 @bowangbo 介绍:先用 18B 参数训练 ColBERT 教师模型,再蒸馏出 9B 和 0.6B 两个版本(0.6B 还带视觉塔)。因出自同一教师,三者共享 token 嵌入空间,可以 9B 做离线索引、0.6B 做在线检索,或强芯片跑 9B、本地跑 0.6B。这套 pplx-embed-v2-context 是其新一代检索器套件的开端,Dense 版本即将推出。