小模型查大模型索引:不增延迟即可缩小一半性能差距
antoine_chaffin · x · 2026-10-08
两个模型共享同一 embedding 空间让跨模型检索成为可能。作者实测用 0.6B 模型查询 9B 模型建的索引,与对称的 9B/0.6B 组合对比:用小模型查询 9B 索引,相比 0.6B 索引得分提升且不增加查询时延迟;用 9B 查询仍然最强,但 0.6B 查询就能闭合约一半差距。
所属事件:Perplexity 开源多模态嵌入模型 pplx-embed-v2-late(38 条相关)→
「模型」频道最新
- Epoch发布InnovationEval：AI做出重大创新的能力仍远不达标 — Afinetheorem · 2026-10-08
- 三周冒出 113 个决策模型：七成基于 Qwen，最便宜的不到一厘钱 — jonathanmalkin · 2026-10-08
- 用户实测称 Haiku 5.5 是工作流重大升级 — Sorcerer12345 · 2026-10-08
- OpenRouter 上线决策模型排行榜,typesafeai 包揽全部类目第一 — gaganghotra_ · 2026-10-08
- OpenAI 推出 Intelligent UI,ChatGPT 可快速生成可交互界面作答 — gdb · 2026-10-08
- Claude Haiku 5.5 全线碾压 GPT-6 Luna,长上下文却贵 5 倍 — daniel_mac8 · 2026-10-08