Contextual AI 开源 9B/0.6B ColBERT 系多模态检索模型,文本与视觉检索均达前沿
antoine_chaffin · x · 2026-10-08
Contextual AI 的 antoinechaffin 发布博客与模型:此前的 9B 自研 ColBERT 上下文模型正式亮相,并附带一个 0.6B 小模型。两者基于 late interaction(每 token 一个向量 + MaxSim)架构,在文本、多模态与 agentic 检索上均达到前沿水平。
作者解释为何转向 late interaction:稠密模型把整篇文档压进单个向量,文档越长、越多样损失越大,图像更是如此;且单次点积表达力有限。逐 token 向量 + MaxSim 同时解决这两个瓶颈。
所属事件:Perplexity 开源多模态嵌入模型 pplx-embed-v2-late(38 条相关)→
「模型」频道最新
- Epoch发布InnovationEval：AI做出重大创新的能力仍远不达标 — Afinetheorem · 2026-10-08
- 三周冒出 113 个决策模型：七成基于 Qwen，最便宜的不到一厘钱 — jonathanmalkin · 2026-10-08
- 用户实测称 Haiku 5.5 是工作流重大升级 — Sorcerer12345 · 2026-10-08
- OpenRouter 上线决策模型排行榜,typesafeai 包揽全部类目第一 — gaganghotra_ · 2026-10-08
- OpenAI 推出 Intelligent UI,ChatGPT 可快速生成可交互界面作答 — gdb · 2026-10-08
- Claude Haiku 5.5 全线碾压 GPT-6 Luna,长上下文却贵 5 倍 — daniel_mac8 · 2026-10-08