上下文嵌入成 RAG 新方向,目前仅 Perplexity 与 Voyage 开放
antoine_chaffin · x · 2026-09-26
Google DeepMind 的 Antoine Chaffin 引用讨论指出,上下文嵌入(contextual embeddings)目前只有 Perplexity(MIT 开源)和 Voyage(voyage-context-4 等模型)提供,并暗示即将发布相关方案。
背景是 Voyage 的 voyage-context-3:该模型为文本块生成编码全文上下文的向量,无需手动元数据增强即可直接替换现有 RAG 管线中的标准嵌入。官方数据显示,在块级与文档级检索任务上分别超越 OpenAI-v3-large 14.24%/7.89%、Cohere-v4 12.56%/5.64%、Jina-v3 late chunking 23.66%/20.54%;其二值 512 维版本以 0.5% 的向量库存储成本超过 OpenAI-v3-large 浮点 3072 维版本,精度还高 0.73%。
所属事件:上下文嵌入成 RAG 新方向，仅两家厂商可用(2 条相关)→
「模型」频道最新
- 英国增长调查上线工具,可对比 AI 模型与经济学家观点 — dc_lawrence · 2026-09-26
- Anthropic 与 OpenAI 标价相同但缓存读取价差 4 倍，价目表不等于真实价格 — julsimon · 2026-09-26
- AWS 给 Kimi K3 最短退出条款：45 天通知即下架，其余模型多承诺半年 — julsimon · 2026-09-26
- 爆料称 OpenAI 因 9 月 20 日安全事件暂停最强模型训练 — kimmonismus · 2026-09-26
- contextual embeddings 仅 Perplexity 与 Voyage 有,开源或将来临 — antoine_chaffin · 2026-09-26
- 九月模型大爆发反噬:频繁换模型让人更难建立工作流 — Cold_Mud2650 · 2026-09-26