两尺寸共享向量空间：9B 编码文档、0.6B 服务查询
tomaarsen · x · 2026-10-08
pplx-embed-v2-late 的 0.6B 与 9B 共享嵌入空间，可先用 9B 离线编码整个语料库，再用 0.6B 在线服务查询，以低成本逼近大模型效果。两模型均由同一个 18B 教师模型通过对齐逐 token 嵌入蒸馏而来，小模型可直接检索大模型的文档向量。同线程还说明架构：基于 Qwen3.5 双向注意力，每个 token 保留一个 128 维向量，MaxSim 让查询不同部分匹配页面不同部分，Sentence Transformers 中用 model.similarity()。
所属事件:Perplexity 开源多模态嵌入模型 pplx-embed-v2-late(38 条相关)→
「模型」频道最新
- Epoch发布InnovationEval：AI做出重大创新的能力仍远不达标 — Afinetheorem · 2026-10-08
- 三周冒出 113 个决策模型：七成基于 Qwen，最便宜的不到一厘钱 — jonathanmalkin · 2026-10-08
- 用户实测称 Haiku 5.5 是工作流重大升级 — Sorcerer12345 · 2026-10-08
- OpenRouter 上线决策模型排行榜,typesafeai 包揽全部类目第一 — gaganghotra_ · 2026-10-08
- OpenAI 推出 Intelligent UI,ChatGPT 可快速生成可交互界面作答 — gdb · 2026-10-08
- Claude Haiku 5.5 全线碾压 GPT-6 Luna,长上下文却贵 5 倍 — daniel_mac8 · 2026-10-08